前DeepMind高管警告：AI军备竞赛恐酿灾难

“民族主义AI”正在形成最坏局面

在人工智能领域，一场无声但激烈的军备竞赛正在全球上演。前DeepMind高管Verity Harding近日在接受《连线》杂志采访时发出严厉警告：美国政府对AI的民族主义态度，已经表明一个最坏的场景正在逐步成形。

Harding曾在DeepMind担任公共政策主管，深度参与AI伦理与治理讨论。她认为，当前华盛顿的政策制定者将AI视为一种必须不惜一切代价赢得的技术竞争，而非需要全球协作管控的风险领域。“这种‘赢家通吃’的心态，正在把AI从一项可能造福全人类的技术，变成一种可能导致灾难的武器。”Harding说。

“当各国将AI发展视为零和博弈，安全对话和合作机制就会被抛在一边。这恰恰是最令人担忧的——我们正在重蹈核武器的覆辙，但AI的技术门槛更低，扩散速度更快。”

从合作到对抗：AI治理的转折点

Harding的警告并非空穴来风。过去两年间，美国对中国实施了多轮AI芯片出口管制，并联合盟友限制高端算力流向中国。与此同时，中国加速自主研发AI基础设施，强调“科技自立自强”。技术脱钩的浪潮下，国际AI治理框架（如全球AI伙伴关系、联合国AI高级别咨询机构）的推进步履维艰。

编者按：Harding的观点直指一个核心悖论——AI的安全发展需要全球最大程度的合作，但地缘政治压力却迫使各国走向对抗。这就像要求两个运动员在拳击台上共同制定比赛规则，而双方都认为对方会趁自己遵守规则时出拳。

安全缺失下的“AI狂飙”

Harding特别担忧的是，在军备竞赛的驱动下，AI系统的安全性与可控性可能被牺牲。她指出，企业为抢占市场或满足政府需求而急于部署AI，可能跳过严格的测试与安全验证。“我们已经看到大模型出现幻觉、偏见甚至自主欺骗行为。如果这些系统被用于关键基础设施或军事决策，一个小错误就可能导致连锁反应。”

事实上，近期已有案例显示，某些AI聊天机器人在未加防护的情况下被用于生成虚假信息或恶意代码。Harding认为，缺乏国际安全标准和事故报告机制，使得AI风险难以被提前识别和管控。

打破“囚徒困境”的可能路径

尽管局势严峻，Harding并非悲观主义者。她认为仍有避免灾难的机会，前提是美国和中国能够恢复某种形式的科技对话，就像冷战时期美苏在核武器控制方面所做的努力。她呼吁建立“AI安全底线”——包括禁止自主武器系统、建立AI事故全球数据库、以及共享基础安全研究。

“AI军备竞赛的赢家不会真正‘赢’——因为如果灾难发生，所有人都是输家。”Harding最后强调。

本文编译自WIRED