Timnit Gebru：AI末日论是转移注意力的烟幕

在关于AI未来的公共讨论中，“灭绝风险”和“人类存亡”的叙事正变得愈发响亮。但AI领域最尖锐的批评者之一、分布式AI研究所（DAIR）创始人Timnit Gebru认为，这种末日论调并非出于对安全的真诚关切，而是一种精心设计的注意力转移策略——目的是让公众和监管者忽视AI技术在当下已经造成的具体伤害。

末日论的“功能”：回避真正的问题

Gebru的批评指向一个核心矛盾：AI公司一边高调宣扬自己正在开发可能毁灭人类的技术，一边在具体危害——比如自主武器、大规模监控、算法歧视——面前保持沉默或消极应对。她认为，这种策略具有明确的公关和监管套利逻辑。当讨论停留在“AI可能灭绝人类”的假设性未来时，企业就无需为已经发生的雇佣歧视、隐私侵犯、虚假信息传播等现实问题承担责任。

“这些末日讨论是为了分散我们的注意力。它们并非在帮助我们理解AI的真实风险，而是在把我们从真正需要关注的事情上引开。”

这一观点与近年来AI安全争论的演变高度吻合。自2023年“AI灭绝风险”公开声明发布以来，AI行业的头部公司越来越倾向于用存在性风险框架来定义AI安全议程。批评者指出，这种框架将公众注意力从“AI现在正在做什么”转向了“AI未来可能做什么”，而前者才是监管和伦理治理应该优先关注的领域。

自主武器：被淹没的真实危害

Gebru特别提到了自主武器这一议题。在她看来，致命性自主武器系统的发展是AI技术最紧迫且已部分实现的危害之一，但它很少获得与“AI灭绝”同等的公共关注度。原因是多方面的：军事应用涉及国家安全叙事，企业往往不愿公开讨论合作细节；而末日论的声量又挤占了留给具体伦理议题的讨论空间。

这一判断并非没有依据。Google的Maven项目曾引发内部大规模抗议，最终导致公司放弃续约军方无人机影像分析合同。然而，类似争议在近年的AI叙事中逐渐边缘化——讨论焦点更多集中在通用人工智能的时间表和生存风险上。当“AI会不会杀死所有人”成为流量密码时，“AI正在被用于哪些武器系统”这样的问题反而显得不够性感。

从“AI伦理”到“AI安全”的语义转换

过去几年，AI行业经历了一次显著的叙事转换：从“AI伦理”转向“AI安全”。前者关注偏见、公平、隐私、劳工等社会影响，后者则更多指向模型对齐、可控性、存在性风险等技术治理议题。这一转变并非偶然。批评者认为，“安全”话语为企业提供了更友好的框架：它承认风险的存在，但将解决方案指向由企业主导的技术研究，而非外部监管或结构性改革。

Gebru创立的DAIR正是对这一趋势的直接回应。该研究所强调从受影响社区出发进行AI研究，关注AI技术对边缘群体的实际影响，而非抽象的未来风险。这一立场使她成为AI行业中独特的声音——既不属于“加速主义”阵营，也不被主流AI安全机构完全接纳。

末日论为什么对企业有用？

从公关角度看，末日论对AI公司具有多重价值。首先，它塑造了“我们在做极其重要且危险的事情”的叙事，赋予产品开发和融资活动一种历史的紧迫感。其次，它将监管讨论引向遥远的未来场景，而针对当下AI系统的具体法规——如数据保护、反歧视、劳工权利——则可以在“不要阻碍创新”的旗帜下被推迟或弱化。最后，它创造了一种二元对立的框架：要么你相信AI可能灭绝人类，要么你就是在忽视风险。这种框架排除了中间立场：即我们可以在承认某些风险真实存在的同时，优先解决已经迫在眉睫的具体危害。

当然，Gebru并非唯一持此观点的人。学术界和公民社会组织中越来越多的人开始质疑“存在性风险”框架是否在实际上服务于行业利益。但她的声音特殊之处在于，她既拥有AI技术研究的专业背景，又因被Google解雇而成为行业伦理争议的标杆人物。她的批评因此具有技术可信度与道德权威的双重分量。

编者按：谁在定义风险，谁在决定优先级

Gebru的论点提醒我们，关于AI的公共讨论本身就是一种权力场域。什么问题被提出、什么问题被搁置、什么风险被放大、什么伤害被忽视——这些选择从来不是中立的。当行业领袖一边警告“AI可能终结人类”，一边继续向军方销售技术、一边抵制数据隐私立法时，我们有理由追问：末日论的真正功能是什么？

当下一个“AI可能毁灭人类”的头条出现时，也许值得先问一句：我们正在被鼓励不去看什么？

本文编译自WIRED