AI智能体正在以超出所有人预期的速度渗入关键系统,而这一次,渗透发生在美国国防部。本周,科技播客Uncanny Valley披露了一起令人不安的事件:一名国防承包商员工将自己搭建的Claude智能体接入了五角大楼的内部系统。这不是一次黑客攻击,也不是国家级对手的渗透,而是一个普通承包商为了让工作“更顺手”而做出的日常决定——恰恰是这种日常,才最令人后背发凉。
一个承包商,一个智能体,一道没人看守的边界
据播客讨论,这名承包商利用Anthropic的Claude模型构建了一个自主执行任务的智能体,并将其连接到国防部的业务系统中。事件的具体技术细节尚未完全公开,但问题的轮廓已经足够清晰:当AI智能体被赋予调用工具、读写数据、跨系统执行操作的能力时,传统的权限边界几乎形同虚设。一个拥有合法凭证的承包商,加上一个不会疲倦、不会犹豫、可以24小时连续作业的智能体,等于把一个人的权限放大成了一个团队的产能——同时也放大成了一个团队的风险。
安全行业把这类现象称为“影子AI”:员工未经IT部门审批,自行将大模型和智能体工具接入工作流程。过去两年,影子AI在企业内部已成常态,多数公司选择睁一只眼闭一只眼,因为效率提升是实实在在的。但当同样的行为发生在五角大楼,性质就完全不同了。政府系统的敏感级别、数据分类、审计要求,都远非普通企业可比,而AI智能体的行为链条往往难以完整追溯——它做了什么、访问了什么、把什么信息带到了哪里,事后可能根本说不清楚。
智能体的危险不在于它“想”做什么,而在于它“能”做什么,以及没有人事先问过它到底能做什么。
更值得警惕的是,这类事件大概率不是孤例。各国政府机构都在加速引入商用大模型,采购流程、合规审查和实际部署之间常常存在时间差。当工具的能力每几个月就跃升一个台阶,监管者的知识更新速度很难跟上。这起事件真正的教训,或许不在于某一家承包商做错了什么,而在于整个体系还没有为“自主行动的AI”准备好一套可执行的准入标准。
Anthropic的IPO:安全叙事遇上资本时钟
同一周,Anthropic提交了IPO申请。这家公司自成立起就以“安全优先”作为核心标签,把可解释性、对齐研究和负责任扩展写进了自己的基因。但上市意味着另一套逻辑开始生效:季度财报、增长预期、股东回报。当一家以克制为卖点的公司必须向公开市场证明自己能够高速增长时,安全承诺与商业压力之间的张力将被放到聚光灯下。
这并非Anthropic一家的困境,而是整个AI行业的共同命题。头部模型公司迄今大多依赖巨额融资维持运转,训练成本、算力投入和人才争夺都在持续烧钱。IPO是一条现实的输血通道,但也是一份公开的契约——从此每一次安全策略的调整、每一次模型能力的放开,都会被投资者和监管者同时审视。对于刚刚发生“智能体进入五角大楼”这类事件的行业来说,这种审视未必是坏事。
中期选举前,志愿者用技术对抗ICE
播客的第三个话题转向公民社会。随着2026年中期选举临近,一批志愿者组织正在筹备技术工具,用于监测和反制美国移民与海关执法局(ICE)的执法行动。这些志愿者中有工程师、数据工作者和开源社区成员,他们搭建举报平台、整理公开记录、开发快速响应的信息网络,试图用技术手段弥补传统监督渠道的不足。
这条线索与前面两个故事形成了一种耐人寻味的对照:同样是AI和自动化技术,一边被承包商悄悄接进国防系统,一边被普通公民用来监督公权力。技术本身没有立场,但技术的部署方式和使用场景,始终是政治性的。当政府机构以效率为名引入自主智能体,公民社会也必然会以监督为名发展出自己的技术工具箱。
分析:智能体的治理,最终不是技术问题
把这三件事放在一起看,会发现它们共享同一个底层问题:AI智能体已经具备在真实世界中自主行动的能力,但围绕它的责任归属、授权机制和审计体系仍停留在“人类点按钮”的时代。承包商事件说明权限管理失效,Anthropic的IPO说明商业激励与安全约束需要新的平衡机制,而志愿者的行动则提醒我们,技术能力的扩散是不可逆的——它既会流向 Pentagon,也会流向街头。
真正需要回答的问题不是“如何阻止AI智能体进入敏感系统”,而是“当它进入时,谁能知道、谁能叫停、谁来负责”。在找到这些答案之前,每一次“顺手接入”都可能是一次未被记录的越界。
本文编译自WIRED
© 2026 Winzheng.com 赢政天下 | 转载请注明来源并附原文链接