AI生物武器灭世？科学家说风险被高估

在关于失控人工智能的讨论中，生物武器和全球瘟疫常被描绘成最极端的末日场景：某个模型一旦“越狱”，就能设计出致命病原体，让人类在几周内陷入灾难。但WIRED近日的一篇文章给出了不同判断：在科学家看来，AI带来的诸多威胁中，死于瘟疫的排名其实很低。

编者按：这并不意味着AI与生物安全无关。相反，它提醒我们，真正需要治理的不是科幻式的“AI灭世”，而是技术扩散、实验室安全、数据滥用和公共卫生韧性等更具体的问题。

生物武器不是“写代码”那么简单

AI擅长处理文本、图像和蛋白质序列，但生物武器的制造并不只是信息问题。它需要在物理世界中完成一长串步骤：获取或改造病原体、在实验室中培养、确保稳定性和感染性、解决传播方式，还要避免在制造过程中伤到自己。这些环节依赖大量“隐性知识”——那些无法从论文或模型输出中直接学会的手感、经验和设备操作。

换言之，大模型可以生成一份看起来专业的实验方案，却无法替人完成湿实验。生物系统的复杂性也意味着，任何设计都需要反复试错。AI模型可能出现幻觉，给出错误或危险的步骤，反而增加失败概率。对试图制造大规模生物武器的行为体来说，真正的瓶颈不是“想不到”，而是“做不出、测不准、放不大”。

AI降低门槛，但没有消除瓶颈

当然，AI确实可能降低信息获取成本。过去需要多年训练才能理解的文献，如今可以被模型快速总结；蛋白质设计工具也可能帮助研究者筛选候选分子。生物安全专家更担心的，是能力扩散到更多小团体，而不是某个AI突然自主制造瘟疫。

但“降低门槛”和“造成全球灾难”之间仍有巨大距离。历史上，国家主导的生物武器项目往往投入巨大，却难以获得稳定、可控、可大规模部署的武器。非国家行为体即使掌握一些知识，也面临设备、原料、资金和保密难题。与核武器相比，生物武器的某些环节门槛较低，但要实现全球大流行级别的效果，难度极高。

在失控人工智能带来的所有威胁中，科学家说，死于瘟疫的排名很低。

攻防不对称：公共卫生是缓冲器

另一个被低估的因素是防御。人类社会已经与自然流行病斗争了数千年，建立了监测、疫苗、抗病毒药物和公共卫生响应体系。AI不仅可以被滥用，也可以用于防御：预测疫情走势、加速药物筛选、改进诊断工具、优化物资调配。攻防之间并非完全不对称，但防御方拥有制度、数据和全球协作网络等优势。

这并不意味着风险为零。合成生物学、基因编辑和AI蛋白设计的进步，正在扩大人类操控生命的能力。实验室事故、针对性攻击或中等规模事件，可能比“AI制造全球瘟疫”更现实。政策制定者应关注可操作的防护措施：对DNA合成订单进行筛查，加强实验室生物安全标准，推动国际信息共享，并对前沿模型进行生物风险红队测试。

为什么“AI灭世”叙事仍然流行

“AI用生物武器消灭人类”之所以吸引人，是因为它简单、戏剧化，容易在社交媒体传播。但它也可能转移注意力。相比一个模糊的末日场景，更紧迫的问题包括：生物安全监管是否存在漏洞？高风险研究是否透明？AI生成的错误信息会不会干扰疫情应对？这些议题不够刺激，却更可能决定真实世界的安全水平。

AI不会魔法般制造瘟疫。它更像一种放大器：放大现有能力，也放大现有漏洞。如果社会提前投资于生物安全基础设施、国际治理和防御性AI，AI带来灾难性生物事件的可能性可以继续保持在低位。真正值得警惕的，不是模型突然“觉醒”，而是人类在治理上继续沉睡。

本文编译自WIRED