AI真会毁灭人类吗？末日警告再度响起

编者按：当一位曾在顶级AI实验室工作过的研究者公开警告“我们可能正在制造无法控制的东西”，而同一周里另一群人正用AI伪造出一份看起来很权威的选举报告，这两个场景之间的张力，或许比任何技术细节都更值得警惕。

在最新一期的播客节目《Uncanny Valley》中，主持人Brian Barrett、Leah Feiger与资深AI记者Will Knight把三件表面上毫不相干的事情放在了一起讨论：一位前Anthropic研究员的AI末日警告、苹果发布会带来的新一轮功能升级，以及一份被传播为“人口普查数据”的报告——该报告荒谬地宣称特朗普赢得了2020年大选。

这三条线索恰好勾勒出当下人工智能的三种面孔：它既是可能带来生存性风险的强大技术，也是被塞进消费电子产品里的营销卖点，同时还是制造和放大虚假信息的高效工具。

一、来自实验室内部的末日警告

本周最引人注目的声音，来自一位离开Anthropic的研究人员。他公开表达了对自己曾参与构建的技术的深层忧虑，认为当前的AI发展路径存在失控的可能。这类警告在过去几年里并不罕见——从“AI教父”Geoffrey Hinton离开谷歌后的表态，到各类关于通用人工智能（AGI）时间表的公开信，行业内部的焦虑情绪早已不是秘密。

但值得注意的是发言者的身份。Anthropic本身就是以“AI安全”为核心叙事创立的公司，其创始团队多来自OpenAI，长期主张在能力提升与风险控制之间保持平衡。当这样一家公司的前员工站出来发出警告，外界很难简单地把它归类为“外行恐慌”或“炒作”。

“真正的风险不在于机器突然觉醒，而在于我们在一连串看似合理的小决定中，逐渐把关键判断权交了出去。”——这是本期节目中被反复提及的一种观点。

批评者则指出，末日叙事本身也有副作用：它把公众注意力从更现实、更紧迫的问题上转移开，比如算法歧视、劳动替代、版权争议以及模型训练背后的资源消耗。换句话说，担心“人类灭绝”很容易，解决“下个月会不会被裁掉”却很难。

二、苹果发布会：AI成为新的标配

与实验室里的哲学争论形成鲜明对比的，是苹果发布会现场那种典型的产品节奏。新硬件的性能提升、摄像头的迭代、系统层面的AI功能整合，构成了整场活动的骨架。对大多数消费者来说，这才是AI真正“进入生活”的方式——不是通过一篇风险声明，而是通过手机里多出来的一个按钮。

行业背景是，过去两年里，几乎所有主流终端厂商都把AI能力当作核心竞争力来宣传。从端侧模型的本地推理，到与云端大模型的协同，设备厂商试图在隐私保护与功能强大之间找到卖点。这种“润物细无声”的渗透，恰恰是前面那位研究者所担忧的场景的温和版本：人们不会因为一次剧变而警觉，而是因为便利而逐步依赖。

节目中也提到一个耐人寻味的现象：同一周里，关于AI可能毁灭文明的讨论，与关于某个新功能好不好用的讨论，可以毫无冲突地并存于同一份科技新闻列表里。这本身就说明了公众对这项技术的认知处于一种分裂状态。

三、被AI包装的谎言：那份“人口普查报告”

第三条新闻听起来更像是一个荒诞的社会实验：一份声称基于人口普查数据、得出特朗普赢得2020年大选结论的报告在网络上流传。事实核查者很快指出，其数据来源、统计方法和结论都站不住脚，但它依然获得了可观的传播量。

关键在于形式。当一份文件拥有正式的标题、看起来专业的表格、以及“数据支持”的外壳时，普通读者几乎不可能在第一时间判断真伪。生成式AI让这种“形式上的可信度”变得极其廉价——过去伪造一份像样的报告需要排版、图表和一定的专业知识，现在只需要一段提示词。

这也是本期节目最尖锐的一点：当我们讨论AI是否会毁灭人类时，它已经在以更低调的方式侵蚀公共讨论的基础——对事实的共同认知。相比一场轰轰烈烈的机器起义，一个被海量伪造内容填满的信息环境，可能是更早到来的危机。

四、三条线索其实是一条

把这三件事放在一起看，会发现它们共享同一个底层问题：AI的能力增长速度，正在超过我们建立规范、验证信息和做出集体判断的速度。

研究员担心的是能力的上限，苹果展示的是能力的普及，而那份假报告展示的是能力的滥用。三者并不是三种不同的未来，而是同一个现在的三个切面。真正的问题或许不是“AI会不会杀死我们”，而是“在一个AI无处不在的世界里，我们还剩下多少能力去分辨什么是真的、什么是重要的”。

这也是《Uncanny Valley》这档节目一贯的立场：拒绝把AI讨论简化为“乐观派”与“悲观派”的对立，而是持续追问那些被宏大叙事掩盖的具体问题。

本文编译自WIRED