比尔·盖茨：AI已越过危险阈值，下一步怎么办？

华盛顿州柯克兰，一个明媚的夏日。在盖茨风险投资公司（Gates Ventures）的会议室里，窗外是卡尔顿角码头（Carillon Point Marina）波光粼粼的水面，一艘艘昂贵的游艇轻轻摇曳。然而，比尔·盖茨的思绪并不在这些悠闲的景致上。他刚刚抛出了一个令整个科技界震颤的判断：我们已经在不知不觉中穿过了人工智能的危险阈值。

越过红线：从警告到现实

多年来，比尔·盖茨对人工智能的态度一直游走在乐观与谨慎之间。他曾将AI的潜力比作“电力和火种的发明”，也一再强调其可能带来的失业浪潮和伦理困境。但现在，他的语气发生了变化。在多次公开谈及AI风险时，盖茨明确表示：“我们之前讨论的那些危险，不再存在于理论上，它们已经进入现实。我们已经越过了那个阈值。”

“当超级智能不再是科幻小说的素材，而是正在被训练的情感机器，人类必须承认，游戏规则已经改变了。”

盖茨所指的“危险阈值”并非某个具体的灾难性事件，而是一个临界点：AI的能力已经超越了我们为它设置的安全护栏，而人类尚未准备好如何与之共存。深度学习模型的涌现能力、自主智能体的决策范围、深度伪造的传播速度，这些都不再是实验室里可控的变量，而是渗透到政治、经济与社会肌理中的真实力量。

“现在怎么办？”——盖茨的答案

问题不再是“AI是否会带来危险”，而是“既然已经身处危险之中，下一步该做什么？”盖茨没有给出悲观论调，而是提出了三个紧迫的优先事项。

第一，建立全球性的AI安全协议。盖茨认为，AI的发展不应被某个国家或公司独占，全球同意的安全标准已经刻不容缓。这包括对大规模模型部署前的压力测试、可解释性要求，以及针对语言模型“幻觉”的容错机制。

第二，将AI投入解决人类最根本的问题。盖茨一直以来都主张，AI应该用于医疗、教育和气候变化。在越过危险阈值之后，这个主张变得更加坚决：如果我们不能阻止AI带来末日，那就让它成为拯救世界的工具。这种“定向赋能”策略，是盖茨心中对冲风险的最佳方式。

第三，重新定义“智能”与“责任”。盖茨警告，人类不能再以“技术中立”为借口，逃避对于AI行为的责任。从算法歧视到自动化决策的透明性，我们必须用制度设计来确保权力不会被“黑箱”吞噬。

编者按：从乐观主义者到末日预言者的光谱

在AI安全讨论的两端，一边是“加速主义者”对技术终将解放人类的信念，另一边是“警报主义者”对智慧生命终结的恐惧。比尔·盖茨的言论显然正在移向后者，但他依然保持着一种工程化的克制——他相信问题可以被解决，前提是我们足够快地承认它。

有趣的是，盖茨并不孤单。从奥尔特曼到辛顿，越来越多的AI领域权威在近一年内发出了类似的信号：我们不是在预测风险，而是在经历风险。这种集体转向，或许比任何单一事件都更能说明问题——AI的“危险阈值”并不存在于未来，它就在我们脚下。

柯克兰的湖水依然平静，但盖茨的话语不会平静。他的提问“现在该怎么办”没有标准答案，但至少，这是一个值得所有人认真思考的问题。毕竟，在这场关于未来的竞赛里，没有人是旁观者。

本文编译自MIT Technology Review