Savi App用AI反制AI诈骗，防止绑架勒索骗局

当诈骗分子利用AI技术伪造你亲人的声音，在电话中哭泣求救并索要赎金时，你该如何判断真假？一家名为Savi的初创公司正试图用AI对抗AI，其推出的同名App能够实时分析来电语音，识别出由AI生成的深度伪造音频，在关键时刻为用户筑起防护墙。

AI诈骗：从“猜猜我是谁”到“我是你女儿”

随着生成式AI技术的普及，语音克隆变得前所未有地简单和逼真。只需几秒钟的样本音频，攻击者就能复制出一个人说的任何内容，包括语调、情绪和口音。美国联邦贸易委员会（FTC）近期警告称，利用AI语音克隆实施的“亲属紧急求助”类诈骗正在激增，受害者往往因惊慌失措而立即转账，损失金额动辄数千美元。更令人担忧的是，这类诈骗的逼真程度已经让普通消费者难以通过肉眼或耳朵辨别。

据Savi公司介绍，其核心团队由AI安全专家和语音识别工程师组成，此前曾服务于大型科技公司的反欺诈部门。他们发现，现有的反诈骗工具多基于黑名单或人工举报机制，面对实时变化的AI生成内容几乎无能为力。Savi App的独特之处在于，它能在电话接通前或通话过程中，对音频流进行毫秒级的声纹分析和AI特征检测，标记出那些听起来“过于完美”或存在合成痕迹的语音。

“我们需要在诈骗者利用AI之前，先让他们自己的AI露出马脚。”——Savi联合创始人兼CEO Alex Chen在新闻稿中表示。

700万美元种子轮融资，正式登陆移动端

该公司于本周二宣布完成700万美元种子轮融资，由知名风投机构Accel和Quiet Capital联合领投。同时，Savi App正式在苹果App Store和Google Play商店开放下载。用户安装后，无需额外操作，App会在后台自动监控所有来电和语音信息，一旦检测到AI伪造迹象，便会推送即时警告，并建议用户挂断电话或通过预设的“安全词”与亲人二次确认。目前该App支持英语、西班牙语和中文，未来将拓展更多语种。

Savi已与多家电信运营商和银行达成合作意向，计划将检测功能嵌入到通话网关和转账流程中。例如，当检测到可疑诈骗时，银行可自动延迟大额转账，直到用户完成额外的身份验证。这种“人机协作”模式被认为比单纯依靠用户判断更为可靠。

编者按：AI诈骗的“军备竞赛”才刚刚开始

Savi的出现无疑为消费者提供了一层及时的保护，但我们也必须清醒地看到：AI反制AI的博弈将是一场永无止境的军备竞赛。随着深度学习模型的迭代，诈骗者会不断寻找绕过检测的方法，比如引入更微弱的噪声模拟真实录音环境，或者攻击检测算法的弱点。因此，Savi需要持续更新其模型，并保持对新型攻击手法的敏锐追踪。更重要的是，反诈骗教育仍需加强——再强的技术也无法完全替代用户的怀疑精神和安全习惯。

此外，隐私问题同样不容忽视。Savi需要实时分析用户的通话音频，虽然公司承诺所有数据在设备端处理（片上AI）或加密后存储在本地，但用户仍有权担心这些敏感信息是否会被滥用。在灰色地带，是否会有政府或第三方机构利用此类技术进行监听？这是所有AI安全产品都必须面对的信任难题。

尽管挑战重重，但Savi的这一步仍值得赞赏。在科技伦理与商业利益之间找到平衡，或许正是对抗恶意AI的终极解法。

本文编译自TechCrunch