AI末日警告再起：恐慌背后藏着什么？

编者按：关于人工智能是否会威胁人类生存的争论，几乎每隔几个月就会重新点燃一次。TechCrunch旗下播客节目《Equity》最新一期，把话题对准了这轮新的「末日警告」——它们究竟是来自技术前沿的真诚预警，还是行业内部话语权的又一次角力？

这一轮警告从何而来？

据TechCrunch报道，作者Anthony Ha在《Equity》节目中与同事们讨论了AI行业最新的这场辩论：人工智能是否构成对人类文明的生存性威胁（existential threat）。值得注意的是，这类警告往往并不出自外围的悲观论者，而是来自最接近技术核心的人——实验室创始人、首席科学家、前沿研究者。

这种「内部人喊危险」的模式，构成了AI末日论独特的传播结构。当一个正在全力推进技术边界的团队同时宣称这项技术可能毁灭人类时，公众很难判断，这究竟是一种诚实的自我审视，还是一种精心设计的叙事。

从公开信到安全峰会：末日论的制度化

回顾过去几年，这类警告早已从个人言论演变为一种半制度化的行业现象。2023年，包括多位知名研究者在内的上千人签署公开信，呼吁暂停训练比GPT-4更强大的模型六个月；随后，多国相继举办AI安全峰会，把「前沿模型的极端风险」写入官方议程；一批专注AI对齐（alignment）与安全研究的机构也随之获得大量资金支持。

「当一家公司一边警告自己的产品可能毁灭世界，一边继续以最快速度把它推向市场时，这种矛盾本身就值得追问。」

末日叙事的三重功能

批评者认为，末日警告在商业与政治层面同时发挥着作用。其一，它把具体而琐碎的危害——偏见、隐私、就业冲击、版权争议——替换成了一个遥远而宏大的终极命题，从而稀释了监管的紧迫性。其二，它塑造了「只有我们懂这项技术」的专家形象，让头部实验室在规则制定中占据天然席位。其三，它制造了稀缺感与历史感，让资本和人才更容易被吸引到「决定人类命运」的项目上。

支持者则给出另一套解释：正是因为这些人最清楚模型能力的增长速度，他们才有资格发出警告；把风险讲清楚，本身就是负责任的一部分。在他们看来，把末日论简单归结为营销话术，反而是一种危险的自我安慰。

真正被忽略的部分

无论立场如何，这场辩论都暴露出一个结构性困境：关于AI风险的公共讨论，长期被「要么拯救人类、要么毁灭人类」的二元框架占据。而现实中的风险分布远比这复杂——它同时包含短期可测量的损害、中期制度性的失序，以及长期尚不可知的不确定性。

对普通用户和中小企业而言，真正影响日常的往往是更朴素的问题：模型是否可靠、数据是否被滥用、成本是否可控、竞争是否公平。这些问题很少出现在末日警告的聚光灯下，却构成了AI落地过程中最真实的摩擦。

编者分析：警告的价值在于行动

末日警告是否有价值，不取决于它的措辞有多强烈，而取决于它是否带来了可验证的行动：更透明的模型评估、更清晰的问责机制、更开放的第三方审计。如果警告只停留在演讲与博客中，却与产品发布节奏完全脱钩，那么公众有理由保持怀疑。

反过来，如果行业能够把警告转化为具体的安全投入与外部监督，那么即便末日情景最终并未发生，这些努力也不会白费。真正值得警惕的，不是有人喊「狼来了」，而是喊完之后，没有人去检查森林。

本文编译自TechCrunch