祖父被AI假声音骗走钱财，她创办公司做手机端实时鉴伪

编者按：AI语音克隆的门槛正在以肉眼可见的速度塌陷——几秒钟的公开音频，就足以复刻一个人的音色、语调和说话节奏。当这项技术被用于诈骗，受害者往往不是最懂技术的人，而是最相信声音的人。本文讲述的，就是一个从受害者家庭里长出来的创业故事。

一通「弟弟」打来的电话

据TechCrunch记者Connie Loizos报道，创业者的名字叫Tarini Padmanabhuni。故事的转折点发生在她祖父身上：老人接到了一通听起来再熟悉不过的电话——那是他弟弟的声音。音色、语气、措辞都对得上，老人没有起疑，最终被骗走了钱财。

直到事后，家人才意识到，那通电话里说话的根本不是他的弟弟，而是一段由AI合成的深度伪造（deepfake）语音。对一个上了年纪的人来说，被骗走的不只是钱，还有对「亲耳听到」这件事的基本信任。

Padmanabhuni没有止步于愤怒和懊悔。她选择动手解决问题，在旧金山创办了DetectifAI——一家专注于语音真伪识别的AI公司。

为什么声音成了新的攻击面

过去几年，AI换脸视频是公众讨论深度伪造时的主要对象，但真正被大规模用于诈骗的，其实是声音。原因很直接：造一段假视频需要素材、算力和时间，而克隆一段声音，只需要目标对象几秒钟的公开录音——一段采访、一条短视频、一次语音留言就够了。

视频需要你「看见」才会怀疑，声音却是在你毫无防备时直接进入判断系统的。电话诈骗之所以有效，正是因为它绕过了所有视觉线索，只留下一个你最愿意相信的东西：熟悉的嗓音。

更棘手的是时间尺度。视频可以事后核验，一通电话却是实时进行的，人没有暂停键。当伪造的声音夹着急促的语气——「我出事了」「快转钱」「别告诉别人」——受害者往往在几秒内就要做出决定。美国联邦调查局互联网犯罪投诉中心（IC3）多年来反复提示，冒充亲友、冒充权威机构的诈骗始终是造成损失最高的类别之一，而生成式AI正在让这类骗局的「可信度」显著上升。

把模型塞进手机里

DetectifAI的技术路线，正是针对上述痛点设计的。按TechCrunch的描述，这家公司打造的AI模型小到可以直接运行在智能手机上，从而在通话过程中实时判断对方声音是否为合成。

「端侧」这两个字是理解其价值的关键。如果检测必须把语音上传到云端、等待服务器返回结果，那么延迟、隐私和可用性都会成为问题：通话只有几秒的窗口，用户的语音内容也不该被随意上传；更现实的是，在网络信号差甚至断网时，云端方案会完全失效。把模型放进手机，意味着检测可以在本地完成，速度快、隐私好、随时可用。

当然，端侧小模型也意味着要在准确率与体积之间做取舍。压缩模型往往会牺牲对细微声学特征的捕捉能力，而伪造技术本身也在快速迭代——今天能识别的合成痕迹，可能在下一次模型更新后消失。这是一场持续的军备竞赛，而不是一次性的技术交付。

在Startup Battlefield上被检验

DetectifAI目前是TechCrunch Disrupt大会Startup Battlefield（创业竞技场）的参赛公司之一。这个舞台历来被视为早期创业公司的试金石：项目要在极短时间内接受投资人、技术专家和同行的密集质询，比拼的不只是产品演示，还有对市场、商业模式和竞争壁垒的理解。

对反深伪赛道而言，商业模式的追问尤其尖锐：谁愿意为「辨别真假」付费？是运营商、金融机构、社交平台，还是普通消费者？如果答案是后者，那么产品体验必须简单到不需要任何技术常识——就像给手机装一个来电防骚扰功能那样。而如果答案是前者，如何与既有的反诈体系和身份验证流程整合，又会成为新的难题。

技术之外的那道防线

值得注意的是，这一事件的起点并非技术失灵，而是信任被利用。Padmanabhuni的祖父之所以上当，是因为他相信自己的弟弟。骗子攻击的不是手机系统，而是家庭关系。

这提示了一个容易被忽略的事实：AI鉴伪工具再强，也只能作为最后一道技术屏障。真正有效的防线，还包括被反复验证过的「家庭暗语」、涉及转账时挂断并回拨确认的习惯，以及让长辈知道「声音也可能是假的」这件反常识的事。DetectifAI要解决的，是把这道屏障做得足够无感、足够普及，让不懂AI的人也能用得上。

从一个家庭的具体损失，到一个瞄准全球性风险的创业项目，这条路径折射出AI时代的一种典型叙事：技术造成的问题，往往先由普通人承受，再由普通人尝试修补。这个由祖父被骗而催生的公司最终能否成功，还有待市场和时间的检验，但它至少把问题摆到了正确的位置上——在伪造越来越便宜的时代，识别真相的能力不该只属于懂技术的人。

本文编译自TechCrunch