Anthropic上市文件曝光：AI“闭环”既是成功之路，也是末日配方

一份上市文件，两份剧本

当一家AI公司递交S-1文件准备上市时，投资者期待看到的是营收曲线、毛利率和用户增长。但Anthropic的这份文件读起来更像是一本双面手册：一面写着商业雄心，另一面写着人类存亡。WIRED作者Brian Barrett指出，Anthropic在文件中反复强调一个核心概念——“闭环”（closing the loop），并将其视为通往AI成功的“最佳路径”，同时也是对人类构成“存在性”威胁的“配方”。

所谓“闭环”，指的是让AI系统在几乎无需人类介入的情况下，自主完成训练、评估、反馈与改进的完整循环。传统流程中，人类研究员需要设计奖励信号、审核输出质量、修正模型偏差；而在闭环架构下，AI负责提出假设、生成数据、自我评分并迭代升级。Anthropic认为，这种模式能大幅加速能力提升，让模型在安全研究中更快地“跑起来”。

“闭环”为何令人不安

问题在于，闭环一旦形成，人类就从“参与者”变成了“旁观者”。Barrett在文中点出一个悖论：Anthropic以AI安全为立身之本，其“宪法AI”方法依赖人类撰写的原则来约束模型行为；但闭环逻辑的内在驱动力，却是减少对人类反馈的依赖。当模型开始用自己的判断替代人类的判断，谁来保证那个判断标准本身没有漂移？

“Anthropic认为‘闭环’是通往AI胜利的最佳路径——也是对人类‘存在性’威胁的配方。”

这不是科幻式的杞人忧天。过去两年，AI行业已经从“人类反馈强化学习”（RLHF）快速滑向“AI反馈强化学习”（RLAIF）和“可扩展监督”等方向，核心思路都是：人类监督终将跟不上AI的能力增长，因此必须让AI学会监督AI。Anthropic是这一路线的积极推动者，其研究论文多次探讨如何用AI辅助人类评估复杂模型输出。但当这套方法论被写进上市文件、与增长目标绑定，安全承诺与商业压力之间的张力便浮出水面。

行业背景：安全旗手的商业转身

Anthropic由前OpenAI成员创立，长期将自己定位为“更负责任的AI公司”。其Claude系列模型以稳健著称，公司也多次公开呼吁对前沿AI进行监管。然而，递交S-1意味着Anthropic必须向华尔街证明增长潜力，而增长需要更快的模型迭代、更大的算力投入和更激进的产品落地。在这种语境下，“闭环”不仅是技术愿景，更是效率叙事：少一些人类审核，多一些自动化，就能更快推出更强模型。

值得注意的是，Anthropic并非唯一押注闭环的玩家。OpenAI的“超级对齐”团队、DeepMind的自动化评估研究，都在探索类似方向。区别在于，Anthropic把这项技术写进了招股书，等于在公开市场上为一条高风险路径背书。投资者买的是增长故事，但故事的另一面，是公司自己在风险因素章节中承认的“灾难性”可能性。

编者按：上市不是安全的终点

这份S-1文件最值得玩味之处，不在于它披露了多少财务数据，而在于它如何把“末日”语言包装成风险披露的常规条款。Anthropic一方面警告AI可能带来“存在性”威胁，另一方面又将加速AI能力的技术路线作为核心卖点。这种并置并非虚伪，而是整个前沿AI行业的真实处境：所有人都知道风险巨大，但没有人敢先停下。

对普通读者而言，“闭环”或许遥远；但它决定的是未来AI系统在多大程度上还需要人类说“停”。当一家公司同时售卖“最快的车”和“最可靠的刹车”，市场通常会先为速度买单。Anthropic的上市文件提醒我们：AI安全从来不是一份文件能承诺的事，它取决于闭环之外，人类是否还保留着按下暂停键的能力。

本文编译自WIRED