在人工智能安全争论日益极化的当下，Hugging Face首席执行官克莱芒·德朗格（Clément Delangue）给出了一个相当“不合群”的判断：他个人对AI带来末日级风险的主观概率估计，即所谓“P(Doom)”，接近于零。
这一表态来自他与《连线》（WIRED）的对话。德朗格认为，外界对AI失控的恐惧被显著放大，而真正值得警惕的风险来源反而被忽视了。谈到开源AI的必要性时，他给出的理由直截了当：大部分风险，实际上是由少数几个玩家在闭门造车的过程中创造出来的。
什么是P(Doom)？一个被反复引用的数字
P(Doom)是近几年AI安全圈流行起来的一个术语，指“AI导致人类灭绝或文明不可逆衰败”这一情形发生的主观概率。它并不是严谨的统计指标，而更像是一种把模糊担忧量化的表达方式：研究者、创业者与政策制定者被反复追问“你觉得这个数字是多少”，而答案的跨度大得惊人——有人给出不足1%的乐观估计，也有人给出两位数的高危判断。
德朗格把自己放在光谱最乐观的一端。需要说明的是，“接近于零”并不等于“零”：它更像是一种姿态，用来对抗一种在他看来已经过度主导公共讨论的叙事——即把AI等同于某种随时可能失控的、不可名状的力量。他真正想转移的，是讨论的焦点。
风险并非均匀分布
“大部分风险实际上是由少数几个玩家在闭门造车时创造的。”——克莱芒·德朗格
这句话拆开来看，包含两层判断。第一层是结构性的：如果最强大的模型只掌握在极少数公司手中，而外界无法审查其训练数据、权重、评测方法与安全措施，那么风险就是集中的、不可见的，也是难以被外部纠正的。第二层是方法论上的：开源把模型交到数以百万计的开发者、研究者与红队测试者手中，让失效模式、偏见与滥用路径能够在公开环境中被发现和讨论。
这与Hugging Face长期以来的定位高度一致。作为全球最大的开源模型与数据集社区之一，Hugging Face的商业模式与生态影响力都建立在“开放权重、公开评测、社区协作”之上。德朗格的表态既有其一贯的理念成分，也难免带有立场色彩——这一点在阅读时需要被纳入考量。
开源与闭源：一场关于“谁有权检查”的路线之争
过去几年，AI行业围绕开放权重形成了两条清晰的路线。一条以Meta的Llama系列、Mistral以及众多来自中国和欧洲的模型为代表，主张以开放权重降低门槛、加速创新、分散权力；另一条则由少数前沿实验室主导，主张在能力达到一定阈值后限制权重扩散，理由是“一旦发布就无法收回”。
监管层面同样在摇摆。欧盟《人工智能法案》对通用目的模型设置了透明度与系统性风险评估义务，但对“开放权重是否应获得豁免”始终存在激烈争论；美国加州的SB 1047等立法尝试，也把争论引向“应监管模型能力，还是应监管部署行为”。德朗格的论点实际上为其中一派提供了弹药：如果风险主要来自封闭开发，那么监管的核心工具就应当是外部审计、透明度披露与第三方评测，而不是简单地限制权重发布。
质疑者的反驳：开源同样会放大能力
反对意见并不难找。批评者指出，开放权重一旦释出便无法召回，安全对齐可以在微调阶段被轻易剥离，恶意行为者获取能力的成本因此大幅下降。换言之，开源让“防御者”更强，也让“攻击者”更强，而这种不对称性未必总是偏向善的一方。此外，也有人认为“闭门”本身并不是风险来源，模型能力才是——能力越强，无论放在哪里都需要严格治理。
德朗格的回应逻辑则暗含一个前提：透明度本身就是一种安全机制。一个可以被成千上万人拆解、测试和批评的模型，比一个只对内部审计团队开放的模型更可能暴露问题。这个论断在软件安全史上并非没有先例，但它能否平移到能力快速跃迁的前沿AI系统上，仍是开放问题。
编者按：争论的真正焦点不是开源，而是可见性
把德朗格的表态简单读作“开源阵营的公关话术”会错失重点。这场辩论真正争夺的，是谁有权检查最强大的系统、谁为系统失效承担责任，以及治理应当发生在模型发布之前还是之后。他的P(Doom)接近于零，与其说是对风险的测量，不如说是对风险叙事分配权的一次挑战：当恐惧被集中投射到“AI本身”时，具体公司的具体决策反而从视野中消失了。
合理的立场或许是双向的：既承认开放权重带来的扩散风险需要配套的责任机制，也承认封闭开发所造成的审查真空同样是一种风险。德朗格提出了正确的问题，但答案不会只属于任何一方。
本文编译自WIRED
© 2026 Winzheng.com 赢政天下 | 转载请注明来源并附原文链接