OpenAI新模型Astra思维链可监控性下降，首席科学家亲上阵阻止不可监控军备竞赛

2026年9月初，OpenAI在发布新模型Astra的同时，在其系统卡中披露：与此前的模型相比，Astra的思维链可监控性出现大幅下降。这是OpenAI历史上极为罕见的主动披露。

争议的核心技术叫做“循环深度”（Recurrent Depth），又被称为“不透明循环”。该技术让同一组Transformer层被反复计算多轮，模型在向外输出答案之前，先在内部完成大量推理步骤，而这些步骤不必以可见的文字思维链形式呈现。

循环深度的运作逻辑与安全隐患

传统推理模型依赖显式思维链：模型一步步写出自己的推理过程，安全团队可以通过检查这些中间步骤来判断模型是否在计划危险行动、是否走向了错误结论、是否存在欺骗性的内部策略。这一机制是目前人类对齐验证中为数不多的可操作抓手之一。

循环深度从根本上改变了这一逻辑。当模型在“潜空间”（latent space）中完成推理而不输出中间文本，安全审计所依赖的可见推理痕迹就大幅减少甚至消失。Redwood Research首席科学家瑞安·格林布拉特（Ryan Greenblatt）指出，Astra“似乎能够完全在脑海中解决高难度竞赛数学题”，并将这一现象称为“极其令人担忧”。如果这一技术的自然演进路径是不断扩大隐式推理规模，直到模型几乎完全在潜空间中推理，那么现有的思维链监控机制将彻底失效。

Redwood Research首席执行官巴克·施莱格里斯（Buck Shlegeris）也公开表达了高度担忧。他的表述相对审慎：“我不确定Astra的思维链可监控性是否比此前模型差很多”，但同时警告：如果进一步推进这项技术、大幅增加循环次数，将有可能彻底摧毁思维链可监控性。他还将此次争议与此前OpenAI模型对Hugging Face社区发起攻击的安全事件联系在一起——那次事件已经说明，人类并不总是能完全理解AI思维链的真实含义，而在可见推理步骤进一步减少的情况下，未来类似的安全事件调查将更加困难。

长期关注AI安全的作家兹维·莫肖维茨（Zvi Mowshowitz）使用了更为强烈的措辞，将这项技术称为“玩火”，并提出或许需要立法来阻止各大实验室之间竞相降低可监控标准的竞赛。

帕乔基的灭火与承认并存

争议发酵后，OpenAI首席科学家雅库布·帕乔基（Jakub Pachocki）于9月2日在社交平台发文回应。他的立场呈现出明显的双重性：一方面是技术层面的辟谣，另一方面是对更深层问题的承认。

在技术辟谣层面，帕乔基指出，包括Astra在内的当前OpenAI前沿模型，其计算图深度与GPT-4相比差距不到两倍。所谓计算图深度，指的是模型完成一次推理任务必须依次执行、无法并行加速的最长计算步骤链条。帕乔基的言下之意是：架构复杂度的增长是渐进的，并未出现外界担忧的跳跃式变化。他同时透露，OpenAI对Astra使用循环深度技术做了限制，模型的思维链预计仍将保持可读性。

然而，帕乔基随即承认了一个更本质的困境：思维链监控本身是脆弱的，且正在走向更具挑战性的处境，而这一趋势并非由架构变化导致，而是随着模型能力提升而必然出现的结构性问题。他表示，OpenAI自第一批推理模型起就一直致力于维护和利用思维链监控，视其为观察模型对齐能力如何从训练分布泛化的重要工具，加强思维链监控仍是当前研究项目的核心目标。

帕乔基还划定了一条线：OpenAI不会接受模型对齐监控能力超过某个阈值的退化，并称将为Astra部署额外的思维链监控机制，以快速发现并遏制潜在的不当行为。但他没有说明这条线具体在哪里，以及如何量化和执行。

这场争议真正的战场：行业标准

把这次事件放进更大的产业背景来看，它的意义远不止于一款模型的技术选择。Anthropic和Google DeepMind已在内部讨论类似的循环深度技术。这意味着，若OpenAI的Astra在能力竞争中证明了隐式推理路线的有效性，其他主要实验室将面临强烈的跟进压力——无论其安全研究团队是否赞同。格林布拉特所担忧的恰恰是这一结构性动力：如果不透明推理在性能或成本上优于显式思维链，市场竞争就会自动将整个行业推向更难监控的方向，而无需任何一家实验室主动做出这个选择。

对于开发者和企业用户而言，这一趋势带来的挑战是具体而实际的。思维链可监控性降低，意味着合规审计、责任溯源、异常行为排查的成本将显著上升。目前依赖“检查思维链以判断模型有没有走歪”的安全评估框架，在循环深度大规模普及后将面临根本性的有效性质疑。监管机构若要在模型发布前进行安全审查，也将因可见推理步骤减少而陷入“没有东西可看”的困境。

从监管角度审视，这次争议也是AI透明度立法的一次压力测试。过去几年，多个主要司法管辖区都在讨论将模型可解释性纳入强制披露要求，但相关框架大多预设了显式思维链的存在。如果主流模型大规模转向隐式推理，现有的监管框架将在执行层面遭遇空洞化。

OpenAI的披露本身值得重视

有一个细节容易在争议噪音中被忽略：OpenAI选择在系统卡中主动披露思维链可监控性下降这一事实，而不是回避或模糊处理。这既是透明度的体现，也是一把双刃剑。

主动披露意味着OpenAI承认了问题的存在，这比日后被外部审计发现更有利于建立信任。但它同时也确立了一个先例：如果未来模型的可监控性进一步下降，用户和监管者有理由追问——上次你们说不超过GPT-4两倍，这次呢？帕乔基发文的核心逻辑，是在给整个行业划出一条不成文的道德线，同时也在向外界传递一个信号：OpenAI知道这条线在哪里，并且声称不会越过它。

问题在于，这条线目前是由OpenAI单方面定义和执行的，既无第三方核验机制，也无法律约束力。格林布拉特和施莱格里斯的担忧不在于Astra现在的状态，而在于未来的竞争压力是否会让这条自我划定的线逐步后移。

战略判断

接下来三个关键信号如下。第一，Anthropic和Google DeepMind何时公开其在循环深度方向上的研究进展及立场——如果两家竞争对手的表态出现分歧，行业是否会形成类似“核不扩散”式的自律协调，还是以竞争压力为由各自为政。第二，各主要司法管辖区的AI监管机构是否会将“思维链可监控性”纳入强制披露或评估标准，这将直接决定隐式推理路线的监管成本。第三，OpenAI为Astra部署的额外思维链监控机制的实际效果，是否能够在大规模使用后经受安全研究者的独立检验。

帕乔基呼吁避免“不可监控军备竞赛”，这句话的价值在于它被一位业内最高级别技术负责人公开说出，将这一议题锁定为可追责的承诺。但军备竞赛的驱动力历来不来自某家公司的主观意愿，而来自竞争结构本身。Astra引发的这场争议，本质上是AI行业能力竞争与安全约束之间张力的一次高度可见的公开化——而这种张力在过去几年已经多次在非公开场合激烈讨论，只是这次借助系统卡披露和名人研究者的公开发声，被推到了行业和公众视野的正中央。