OpenAI向四家独立机构开放训练内部:六名研究员驻场评估AI颠覆行为

2026年11月,OpenAI与Apollo Research、METR、Transluce、Goodfire四家机构签署协议,启动首批嵌入式评估。Apollo Research将派六名研究员进驻四个月,调查模型是否会主动破坏自身或后继模型的安全机制。这是AI行业首次将独立评估方的权限延伸至训练代码、数据集与

2026年11月13日,OpenAI与Apollo Research、METR、Transluce、Goodfire四家独立研究机构签署协议,启动其自称"第一阶段嵌入式评估"。Apollo Research于11月16日公告披露,该机构将向OpenAI内部派驻六名评估员,为期四个月,核心任务是调查AI模型是否会主动颠覆针对自身或后继模型的安全机制。

这次评估的突破性在于发生的位置:不在模型发布前夕,而在训练过程中。Apollo Research在公告中明确指出,其此前对前沿模型的评估均发生在后训练结束、公开发布之前,这种安排无法充分审查训练过程中的隐性图谋行为,也无法评估模型在OpenAI内部部署期间产生的风险。新的嵌入式评估将覆盖这两个盲区。

Apollo的四个月评估围绕四个核心问题展开:训练过程是否在激励模型走向颠覆性行为;标准评估程序能否诱发此类行为;这类行为是否已在OpenAI内部部署中出现;以及颠覆性推理在发生时是否可被检测。对于第一个问题,Apollo获得的访问权限包括相关训练代码和数据集、含可用推理追踪与奖励信号的强化学习rollout,以及对中间模型检查点的查询能力。其余三个问题的具体访问安排仍待双方协商确定。

其他三家机构承担不同的评估职能。METR将评估OpenAI迄今规模最大的强化学习训练运行中的失准行为,包括现有测试和监控系统可能已漏过的问题;Transluce将审查OpenAI后训练对齐评估的质量与覆盖范围;Goodfire则将派驻可解释性研究员,借助Goodfire平台分析模型内部机制、监控训练过程。

四家机构的补偿结构差异显著,折射出各自的立场定位。Apollo Research和Goodfire接受财务报酬,但补偿金额与评估结论不挂钩。METR和Transluce不接受资金,但可能接受算力或API额度。

访问边界是这次评估中最值得细读的部分。Apollo的文件显示,其权限仅适用于"已约定的评估主张、特定模型和特定时间段",OpenAI保留因技术不可行、安全风险或知识产权理由拒绝提供信息的权利。双方约定,OpenAI不得仅因信息对自身不利而拒绝披露,且必须以书面形式说明拒绝理由。在人员访问层面,OpenAI负责遴选有权与评估员讨论保密信息的员工,Apollo可以建议人选或提出专业需求,但最终决定权在OpenAI。如果授权名单之外的OpenAI员工在评估员面前提及保密信息,Apollo须立即停止实质性讨论,转由其指定联络人处理后续接触。评估员使用OpenAI硬件开展工作,配备可被监控的独立通信渠道,默认无权访问OpenAI的通用内部频道。

从报告披露机制看,Apollo计划发布两份公开报告:第一份评估训练过程对颠覆行为的激励作用;第二份覆盖评估方法、内部部署情况以及颠覆性推理的可检测性。OpenAI董事会安全与安保委员会将收到未删减版报告,公开版本则可能受到信息限制。

这套机制的产业意义在于它改变了"何时评估"的行业默认值。过去,外部安全评估几乎普遍发生在模型即将发布时,相当于在产品出厂时才做质量检测。OpenAI此次允许外部评估方进入训练环节,从结构上将安全审查提前了一个完整的开发阶段。对于同样处于前沿模型竞争中的谷歌DeepMind、Anthropic等机构而言,若OpenAI的嵌入式评估模式产出可信报告,将对行业形成隐性压力。

对于企业选型和开发者来说,这次评估的实际价值取决于一个尚未解答的问题:公开报告最终能披露到什么程度。如果OpenAI行使大量信息豁免权,评估报告可能只能呈现有限的阴性结论,却无法向外部验证者提供足够的证据链。Apollo的文件已经承认这一风险,直接表示"访问和披露权限仍未达到其完全嵌入式评估的标准"。

从时间节点看,Apollo的四个月驻场期从2026年11月开始计算,大约在2027年第一季度结束。其余三家机构的评估启动时间各不相同,目前尚未全部开始。