Pangram CEO：AI检测比“真假”难在哪里？

社交媒体正被各种“AI slop”填满：画风奇怪的风景图、复制粘贴的评论、自动生成的短视频旁白。内容生产成本近乎为零，识别成本却不断上升。Pangram联合创始人兼CEO Max Spero对此并不意外，更让他警惕的是，AI生成内容已经进入求职简历、商品评论和保险理赔等真实场景。

过去几年，一批初创公司涌入AI检测赛道，试图用模型识别模型。而Spero想提醒的是：AI检测远不是“Real or Fake”那种二选一游戏。

为什么不是“真假”判断题？

真实世界的内容很少是纯粹的“真”或“假”。一段文字可能是人类写完再用AI润色；一张图片可能是基于真实照片做生成式修改；一段录音可能只是降噪，但关键部分由AI合成。Spero将这种状态称作“连续光谱”，中间是大量协助与虚构交织的灰色地带。

“检测器面对的不是一套固定伪造模式，而是不断迭代的生成模型。今天可识别的特征，明天可能已经消失。”——Max Spero

更棘手的是对抗攻击：改写同义词、加入噪声、破坏水印，都可能让检测系统失效。传统的“找不同”式鉴别，在这样一场攻防博弈中难以维持稳定。

一场未必有终点的军备竞赛

行业目前的检测路径大致包括统计分类器、生成模型水印与来源认证。OpenAI曾上线AI文本分类器，最终因准确率不足而关闭。这个案例证明，单点检测工具很难在开放世界长期有效。

Spero认为，真正可行的方案不是给内容贴“真/假”标签，而是把验证嵌入生产流程。Pangram试图提供一套整合多信号的验证层：内容是否为模型生成、指令链是否透明、使用者身份是否可追溯。这项工作没有太多先例，也很难一劳永逸。

检测的两难：漏判与误伤

另一个严峻挑战是误报。检测系统漏判会让AI造假继续泛滥，误伤则会删除真实用户的内容，甚至影响他们的声誉与生计。Spero表示，比“能否识别AI”更重要的是“能否承担误判代价”。检测结果必须附带置信度与证据，而非简单下结论。

“模型在变，数据在变，攻击方式也在变。如果把AI检测看成静态判断题，很快就会被现实教育。”——Max Spero

编者按：需要“可信上下文”

编者按：AI检测不是精巧的智力游戏，而是一种新数字基础设施。它的难点不在识别某个单一伪造，而在于为整个网络建立可信内容路径。未来也许没有绝对“真实”，只有更可验证、更可追溯的上下文。

当每个人都能生成一切，“验证”就会成为基础服务。Pangram的观点提示我们：AI检测的答案不会藏在二分法里，而是需要产品、规则与公共基础设施共同回答。

本文编译自TechCrunch