Anthropic CEO：AI遭抵制本质上是信任危机

在人工智能行业高歌猛进的同时，一场关于技术风险的激烈争论正在硅谷内外蔓延。面对外界对其“过度渲染AI威胁”的批评，Anthropic联合创始人兼CEO Dario Amodei近日做出明确回应：当前AI领域遭遇的种种抵制与质疑，“从根本上说是一场信任危机”，而非单纯的技术路线之争。

“悲观”标签下的真实意图

近年来，Dario Amodei多次在公开场合强调先进AI系统可能带来的灾难性风险，包括生物武器滥用、网络攻击能力放大，以及人类对超级智能失去控制的可能性。这些言论让他被不少人贴上“AI悲观主义者”的标签，认为他是在为自己的安全研究议程制造恐慌。

但Amodei对这一标签感到不满。他在最新表态中指出，自己并非试图否定AI的积极潜力，而是在提醒行业和社会：如果无视潜在风险，技术带来的将不是福祉，而是颠覆性的危机。“我担心的是，我们把太多注意力放在了‘乐观或悲观’的情绪标签上，却忽略了真正的核心问题——公众还能否信任AI开发者会负责任地行事。”他说。

“AI发展的阻力不是来自技术细节，而是来自一种弥漫的不信任感。人们不确定这些强大的系统会被谁控制、为谁服务，以及当出现问题时，谁来承担后果。”——Dario Amodei

信任赤字：比技术风险更紧迫

Amodei所说的“信任危机”并非空穴来风。过去几年间，多起AI伦理争议持续侵蚀公众信心：大型语言模型被曝出存在系统性偏见、生成式AI工具被用于制造深度伪造内容、部分公司被披露未经充分同意使用用户数据训练模型……这些事件不断强化一种认知：AI公司可能将商业利益置于公共利益之上。

与此同时，全球监管机构也表现出越来越强硬的姿态。欧盟《人工智能法案》分阶段生效，美国多州出台限制AI在招聘、信贷等领域使用的法规，中国则持续完善生成式AI管理办法。监管压力与公众质疑交织，使整个行业面临前所未有的合规挑战。

在Amodei看来，这种信任赤字比任何具体的AI风险都更危险。“如果公众和监管者不再信任AI开发者，那么即使我们拿出最严谨的安全评估报告、最完善的测试框架，也不会有人真正愿意倾听。”他警告说，技术上的“安全”如果无法转化为社会层面的“可信”，AI的落地进程将举步维艰。

以透明度重建信任

作为一家以“安全优先”为核心理念的AI公司，Anthropic一直在尝试通过“负责任扩展政策”（RSP）等方式，为AI系统的开发和部署设定明确的“安全阈值”。Amodei认为，这类自律机制需要被更多公司采纳，并且应当接受独立审计。“我们欢迎外界审查，因为信任只能建立在透明之上。”他说。

他也呼吁行业建立更高效的沟通机制，避免使用过分技术化或防御性的语言。“过去我们习惯说‘我们会小心’，但这句话已经不够了。我们需要证明，我们如何小心，谁来监督，以及如果失败会发生什么。”

在AI技术迭代速度远超制度演进的今天，Amodei的“信任危机”论述无疑为行业提供了一个重要视角。技术风险可以通过工程手段缓解，而信任的修复却需要长期的文化转变和治理实践。

编者按：从“悲观”到“责任”

Amodei的此番回应，折射出AI行业内部一种值得关注的叙事转向——从“AI将带来什么”转向“我们如何让人相信AI不会失控”。这种转变并非偶然。随着模型能力逼近AGI门槛，社会对AI的关切早已不再局限于科幻式的“机器造反”，而是更现实的权力集中、就业替代、隐私侵蚀与信息生态环境失衡。

与其争论某位CEO是乐观派还是悲观派，不如追问一个更本质的问题：在技术洪流面前，那些掌握先进算力和数据的公司，是否愿意为每一次决策的后果负起责任？信任从来不是靠声明建立的，而是靠可验证的行动和对错误承担后果的勇气。

如果整个行业都能像Amodei呼吁的那样，将“重建信任”作为最高优先级，那么围绕AI的激烈争论，或许有望从互相指责的泥潭，走向共同构建规则的建设性博弈。

本文编译自TechCrunch