Anthropic：成功才是AI安全的钥匙？

在人工智能迅速发展的2026年，安全公司Anthropic正陷入一场关于权力与责任的争论漩涡。批评者指责这家由前OpenAI员工创立的公司正以令人不安的速度积累市场影响力和技术控制权，但Anthropic高层却认为，这正是负责任AI开发该有的样子。

权力集中：批评者的担忧

Anthropic的核心业务是构建安全、可控的AI系统，并为企业提供风险评估服务。然而，随着其旗舰模型Claude的广泛部署以及与多家政府的深度合作，一些行业观察家和伦理学者开始警惕：一家私营公司是否掌握了过多决定AI未来方向的权力？

“当我们赋予一个组织如此多的安全评判权时，谁来监督监督者？”——某匿名AI政策研究员在《自然》杂志评论中写道。

批评者认为，Anthropic通过垄断部分安全标准制定、控制关键模型访问权限以及主导人才市场，实际上正在构建一种新型的“安全霸权”。这与其公开宣称的“开放透明”理念存在明显张力。

公司的回应：成功即安全

Anthropic首席执行官Dario Amodei在近期接受WIRED采访时反驳了上述观点。“我们积累的资源——无论是计算能力、研究团队还是行业信任——恰恰是为了让安全研究不再屈居速度之下，”他说，“历史上每一次技术革命的惨痛教训都证明，只有那些有影响力的参与者才能真正推动安全范式转变。”

公司内部文件显示，Anthropic已将其年收入的30%重新投入AI对齐研究、红队测试以及公共教育项目，这一比例远超行业平均水平。高管们强调，若没有市场成功带来的现金流和工程能力，这些安全举措根本无从谈起。

编者按：两难困境的真实写照

这场争议实际上触及了AI伦理领域的核心矛盾：安全需要力量，但力量本身可能成为新的风险源。Anthropic的崛起并非偶然——它是市场逻辑与安全理想碰撞的产物。如果一家专注于安全的公司都无法在商业化浪潮中独善其身，那么其他纯粹逐利的AI企业又该如何被约束？

从更宏观的视角看，目前全球AI治理仍处于碎片化状态。Anthropic试图扮演的“行业自我监管者”角色，本质上是在填补政府监管的真空。但这种填补是否会导致权力过度膨胀，仍需时间和制度设计来检验。

值得注意的是，Anthropic的做法并非没有先例。上世纪核能领域，一些私营公司也曾通过技术领先地位推动安全标准升级。但核能与AI的最大不同在于：前者的滥用后果更加直观可感，而AI的安全问题往往以渐进、隐蔽的方式呈现。

无论如何，这场争论正促使整个行业重新思考：在通往通用人工智能的道路上，我们到底需要什么样的权力结构？是分散的、竞争性的安全生态，还是集中式的、由单一巨头主导的“安全中心”？Anthropic给出了自己的答案，但历史尚未评判。

本文编译自WIRED