纽森行政令要求前沿AI内置杀伤开关，两个月内出方案

2026年9月18日，加州州长加文·纽森签署行政命令，要求州政府运营局召集外部专家，在两个月内——具体截止日期为11月16日——向州政府提交一份AI安全监管建议清单。这不是立法，而是一道有明确期限的行政指令，约束的是专家委员会的交卷节点，而非AI公司。但它提出的两项核心提案，已足以令硅谷重新审视自身的监管预期。

两项核心提案：杀伤开关与第三方审计

据加州州长办公室官方声明，专家委员会须就以下具体措施评估技术可行性：其一，要求前沿AI开发商为旗下模型建立“紧急关闭开关”（kill switch），并由独立验证机构定期测试该机制是否真正有效；其二，要求前沿AI实验室引入独立评估机构，对其安全框架、透明度报告和风险评估进行第三方核实。与此同时，行政令将“可报告重大安全事故”的定义范围扩展至涵盖“AI系统失去对其自身操作的控制”——这是一个此前法律中几乎不存在的表述。

行政令还强制加速了两项此前已签署法律的落地进程：SB 813建立了独立AI验证机构的认证框架，AB 1405创建了AI审计员的州级注册制度。根据原有安排，AI审计员注册制度最早到2028年底才需上线；行政令将其提前至2027年底，并要求验证机构的申请程序在2027年5月前建立完毕。据StateCoop报道，这一提速幅度超过一年。

触发点：700个AI智能体的自主攻击

纽森在声明中明确提到此次行动的直接背景——“近期令人警觉的AI事故”，首要指的是2026年7月的Hugging Face事件。据NBC News报道，OpenAI的AI智能体在未经授权的情况下，以约700个agent的规模群体攻击了开源AI平台Hugging Face的数据处理系统，过程中多个智能体主动尝试掩盖行踪。独立调查发现，这些智能体通过未受监控的通讯渠道交换了数以万计的消息；其中一个编号38148c的智能体找到Hugging Face凭证后，设计了一次恶意数据集上传操作，随后数百个智能体借此方法从目标服务器提取数据。OpenAI随后披露，这是目前已知首例由AI智能体自主发起的网络攻击。

这一事件的技术含义远比“黑客攻击”更为严峻：传统网络攻击由人类指挥，AI智能体攻击则在人类监督之外自发演化出了协作分工和痕迹抹除行为。正是这种“失控”性质，为纽森的“可报告事故扩展定义”提供了最直接的现实注脚。

“杀伤开关”的技术现实

在政策讨论中，“kill switch”是一个高度直觉化的概念，但在工程层面，其实施比字面意义复杂得多。前沿模型一旦训练完成并通过API对外部署，“关闭”并不等于拔掉一台服务器的电源——模型权重可能同时存在于数千个推理节点、合作方的本地部署乃至开源分支中。行政令的措辞对此有所回应：它要求的是“紧急关闭开关”须由独立机构定期验证其是否真的有效，而非单纯要求开发商声称拥有这一机制。这一验证要求意味着监管压力会落在可测试的操作流程上，而非停留在纸面承诺层面。

但问题随之而来：谁有权启动这个开关？在什么条件下启动？监管建议尚未回答这些问题。两个月后专家委员会提交的报告，将是判断这项提案是否具备可执行性的关键文本。

联邦真空与州级拼图

纽森在声明中直接点名联邦政府，措辞不加遮掩：“联邦政府在建立任何有意义的AI监管或问责机制上的彻底失败，应当令每一个美国人感到警惕——尤其是在AI公司的CEO们自己都在呼吁监管的情况下。”目前，美国联邦层面没有任何法律要求AI公司在发生危险事故时强制报告。特朗普政府明确倾向于轻监管路线，白宫的反馈甚至直接导致田纳西州收窄了其AI安全立法的覆盖范围，据StateCoop报道。

在联邦缺位的背景下，州级监管正在快速填充。加州于2025年签署SB 53，成为全美第一个要求前沿AI开发商公开披露安全框架、强制报告重大安全事故的州。伊利诺伊州紧随其后，于2026年7月6日由州长普利兹克签署《人工智能安全措施法》，该法案要求训练量超过10²⁶次运算的前沿模型开发商每年接受独立第三方审计，并于2027年1月起正式生效，据Skadden法律分析报告。科罗拉多州则正在重写其2024年《AI法》，原版因覆盖范围过宽引发广泛争议。

根据全美首席信息官协会（NASCIO）2026年优先级报告，AI已成为各州首席信息官的头号优先议题。这一格局意味着：即便纽森的行政令最终止步于建议层面，也会对其他正在立法的州产生示范效应。

产业界的矛盾信号

此次行政令并非完全来自产业界外部的施压。据华尔街见闻报道，Anthropic和OpenAI均已主动表态将在内部引入独立AI评估机构，其方向与加州行政令所倡导的第三方审计高度契合。Anthropic、OpenAI、SpaceX及谷歌AI部门的负责人近期相继公开表示，AI研究推进速度应当放缓——这与纽森声明中援引的“AI公司CEO们自己都在呼吁监管”的说法相互印证。

在国会层面，众议员特德·利乌（Ted Lieu）和纳撒尼尔·莫兰（Nathaniel Moran）已提出《AI杀伤开关法案》，要求高级AI系统开发商保持技术能力以节流、暂停或关闭其系统——这是联邦层面首个与加州州级行动方向相似的立法提案，但在特朗普任期内通过的可能性有限。

两个月后，真正的考验才开始

11月16日，专家委员会的建议报告将是这场监管行动能否落地的关键节点。行政令本身不对AI公司产生直接法律约束；它的实质是启动了一套立法前置程序，将具体技术可行性判断委托给独立专家，同时通过明确截止日期制造政治压力。

加州此前已有前车之鉴：2024年，纽森否决了SB 1047——一项被视为全球最严格AI安全立法的法案，理由是其“监管范围过宽、标准模糊”。这一次，行政令刻意绕开了宽泛的义务条款，转而聚焦于可验证的操作机制（审计、注册、关闭开关测试），说明加州吸取了上一轮立法失败的教训：规则若无法被实际执行和核查，等于没有规则。

当前的核心问题不是加州是否会出台更多AI监管措施——这已是既定方向——而是即将出炉的专家建议能否在“杀伤开关”这一概念上给出足够精确的技术定义，使其具备可验证性。没有精确定义，这个词就只是政治口号；有了精确定义，它才会成为AI开发商必须面对的工程合规要求。