OpenAI GPT-Red红队模型提示注入成功率达84% 远超人类红队引发安全争议

OpenAI推出GPT-Red自动化红队模型，采用自博弈强化学习训练。攻击模型与防御模型在同一场景中同时学习，攻击方通过引发模型失效获得奖励，防御方通过抵御攻击并完成原任务获得奖励。GPT-Red在提示注入测试中成功率达84%，人类红队为13%。这些攻击被用于改进GPT-5.6 Sol，使其在直接提示注入基准上的失效次数比四个月前最佳模型减少6倍。

机制拆解

GPT-Red的攻击模型发送提示、观察目标响应并迭代优化，目标包括数据泄露等；防御模型同时进化以抵抗攻击并维持任务完成。双方在大量场景中相互推动，攻击发现更强变体，防御能力同步提升。OpenAI将GPT-Red产生的攻击反馈到生产模型训练，自GPT-5.3以来每一次发布均采用此方法。早期版本发现的“Fake Chain-of-Thought”方法曾以超过95%成功率欺骗GPT-5.1，如今在GPT-5.6 Sol上降至十分之一以下。

产业影响

GPT-Red显示AI红队能力可通过规模化计算实现自动化，这可能迫使其他模型提供商加快类似内部红队工具的开发。GPT-Red仅用于内部，未公开分发。采用GPT-5.6 Sol可获得更强直接提示注入防御，同时保持前沿能力和低过度拒绝率。

对照与先例

GPT-Red保持内部使用，避免攻击技能落入真实对手手中，与以往人工红队测试形成区别。

战略判断

更多AI实验室可能尝试构建类似自博弈红队系统，以提升模型鲁棒性。

开发者选型建议：若应用涉及高风险提示交互，优先测试GPT-5.6 Sol在直接提示注入基准上的0.05%失效率，同时在内部模拟环境中复现GPT-Red式攻击以验证防护。企业用户应要求模型提供商披露红队训练覆盖的场景数量，避免依赖单一防御机制。