Anthropic提AI减速方案，黄仁勋泼冷水

一周前，Anthropic一位研究人员的“末日警告”震动了整个AI世界。一周后，这家公司的CEO达里奥·阿莫代伊（Dario Amodei）给出了他的正式回应——一份被他称为“为前沿技术定速”（pace the frontier）的AI发展路线图。这套方案的核心，是引入独立的安全评估机构，并在民主国家的AI实验室之间建立协调机制，试图为眼下这场近乎失控的大模型竞赛装上一套“刹车系统”。

方案公布后迅速引发两极反应：安全派阵营给出了积极声援，而英伟达CEO黄仁勋（Jensen Huang）则公开表达了措辞尖锐的反对。

“末日警告”后的行业焦虑

Anthropic自成立之初便以“AI安全”为立身之本，其创始人团队多来自OpenAI，因对安全路线的分歧而出走。此次研究人员的末日警告，再度把“前沿模型是否正在逼近危险临界点”的讨论推上台面。在这种语境下，阿莫代伊的方案更像是一次制度层面的回应：既然技术风险难以由单家公司独自承担，那就用外部评估与同行协调来分摊责任。

“为前沿技术定速”到底主张什么

按照目前已披露的信息，该方案主要有两大支柱。其一是独立安全评估：由不受实验室商业利益左右的第三方机构，对前沿模型的能力与风险进行测评；其二是民主国家实验室之间的协调，即让处于同一价值框架下的AI公司就开发节奏达成默契，避免陷入“谁先停下来谁就输”的囚徒困境。

“如果我们都相信风险真实存在，那唯一理性的做法，就是让跑得最快的几家公司一起决定什么时候减速。”——这可以看作该方案背后的核心逻辑。

掌声与冷水

方案的吸引力在于，它试图在“完全放任”与“政府强监管”之间找到第三条路——由行业自我约束。这也解释了为何它能在业内迅速获得一批支持者：对于不愿被硬性立法束缚的实验室而言，自愿协调显然是更温和的选项。

但反对声同样响亮。黄仁勋的质疑颇具代表性：在他看来，夸大AI的生存性风险、急于给发展踩刹车，反而可能拖慢真正能带来安全收益的技术进步。加速与安全之间的张力，在这位GPU霸主与AI安全派掌门人之间被摆上了台面。

编者按：AI实验室能“自我监管”吗？

这场争论的深层问题其实很简单：当裁判和运动员是同一批人时，比赛还公平吗？由AI实验室主导制定的安全标准，天然面临利益冲突的质疑——标准太严会束缚自己，太松则形同虚设。独立评估机构听起来很美，但谁来任命、谁来买单、评估结果是否具有约束力，都是绕不开的难题。

更现实的一点是，AI竞赛早已跨越国界。即便民主国家的实验室愿意协调，也无法单方面约束其他地区的开发者。这让“定速”方案在落地时，很可能沦为一场自愿参与、缺乏牙齿的君子协定。

当然，把问题摆上桌面本身就是进步。真正值得关注的，是这套方案能否从“倡议”走向“机制”——以及黄仁勋们的反对，究竟是出于对技术的乐观，还是对商业利益的守护。

本文编译自TechCrunch