OpenAI邀“AI末日论者”加入董事会

OpenAI近日宣布，具有影响力的AI研究者、以对AI风险持悲观态度闻名的保罗·克里斯蒂亚诺（Paul Christiano）将加入OpenAI基金会董事会。这一消息迅速引发行业关注，被视为OpenAI在安全治理层面迈出的重要一步。

从“对齐”到董事会：一位AI安全者的晋升

克里斯蒂亚诺是AI对齐领域的领军人物之一，曾在OpenAI担任研究员，后加入Anthropic，并长期致力于确保AI系统与人类价值观一致的技术探索。他多次在公开场合表达对超级智能失控的担忧，甚至认为AI导致人类灭绝的概率不容忽视。正因如此，他被外界贴上了“AI末日论者”的标签。

此次他并非加入OpenAI的运营管理层，而是进入OpenAI基金会董事会——该机构负责监督OpenAI的非营利使命，对公司的治理架构和公益属性拥有重要话语权。这意味着，克里斯蒂亚诺将以更直接的姿态参与AI安全的顶层设计。

“我们不希望AI最终变成一个无法控制的优化器。它必须明白人类的真实意图，并在关键时刻放弃自己的目标。”——保罗·克里斯蒂亚诺曾在一次演讲中这样表示。

安全派与加速派的角力

OpenAI作为全球最具影响力的人工智能公司之一，长期面临商业回报与公共安全之间的张力。公司内部既有主张加速技术落地的“有效加速主义”阵营，也有以克里斯蒂亚诺为代表的“AI安全优先”阵营。后者强调，在通用人工智能（AGI）尚未到来之前，人类必须提前设计出可靠的监督与控制机制。

分析人士指出，克里斯蒂亚诺加入董事会，可能意味着OpenAI希望在监管压力加剧、社会质疑频出的当下，向外界释放“重视安全”的信号。尤其是在全球多国开始制定AI监管法规的背景下，OpenAI需要展现出更负责任的姿态，以维护其领先地位和公众信任。

编者按：是制衡，还是缓冲？

克里斯蒂亚诺的加入固然为OpenAI的治理层增添了更多批判性视角，但也应看到，董事会席位并不等同于技术决策权。OpenAI真正的技术路线仍由其高管团队和工程团队主导。让一位“末日论者”进入董事会，或许是一种战略性的平衡术——既可为公司争取政策与舆论空间，又不至于拖慢商业化步伐。

真正的考验在于，当克里斯蒂亚诺在董事会提出“应暂停某些高风险实验”或“必须削减算力投入”时，OpenAI是否愿意真正倾听，并付出商业代价去执行。如果此次任命只是公关层面的“安全表演”，那么其意义将大打折扣。

无论如何，AI安全不再是一个边缘话题。它正从研究者的论文走进企业的治理会议室。未来几年，克里斯蒂亚诺与OpenAI的每一次互动，都可能成为观察AI行业如何自我约束的典型案例。

本文编译自TechCrunch