法院支持特朗普拉黑Anthropic

据Ars Technica报道，美国法院近日作出一项备受关注的裁定：特朗普政府可以因Anthropic拒绝启用Claude的部分功能，而将这家AI公司列入政府黑名单。案件的核心并不只是某一项功能是否开放，而是政府在国家安全、军事采购与AI供应链管理中，究竟能在多大程度上要求企业调整其安全策略。

报道指出，法院认可政府方面的论点，即在特定军事或联邦任务场景中，如果AI模型被设置得过于保守，可能导致响应迟缓、拒答过多，甚至影响行动决策。法官在意见中提到，过度受限的AI模型可能造成军事行动失败。这一表述迅速引发争议，因为它将大模型的安全护栏从技术伦理问题，推向了国家安全与行政权力的交叉地带。

Claude的安全理念遭遇政府需求

Anthropic一直以“安全优先”的AI开发路线著称，其Claude系列模型强调宪法式AI、可控输出和降低有害内容生成风险。与一些更强调能力释放的竞争对手相比，Claude在危险指令、武器相关内容、网络攻击和敏感政治问题上通常设置更严格的限制。这种设计在企业合规、教育和普通办公场景中被视为优势，但在军事、情报或应急响应场景中，却可能被政府部门认为“不够可用”。

从报道披露的信息看，争议焦点在于Anthropic拒绝按政府要求开放或启用Claude的某些能力。特朗普政府随后采取限制性措施，将其排除在部分政府采购或合作之外。Anthropic方面则可能主张，政府不能以采购权力强迫企业改变产品安全边界，也不能因为企业坚持风险控制而进行惩罚。

法院的判断表明，在涉及军事与国家安全用途时，政府对AI供应商的筛选标准可能获得更大司法尊重。

AI黑名单的信号意义

这项裁定的影响可能超出Anthropic本身。当前，美国政府正在加速把生成式AI引入国防、情报分析、网络安全和行政服务体系。与此同时，主要AI公司普遍通过安全政策限制模型在武器、监控、欺骗和攻击性网络行动中的使用。政府需求与企业安全承诺之间的冲突，正在变得越来越现实。

如果政府可以将“不愿放宽模型限制”作为拉黑理由，AI企业未来面对公共部门客户时将承受更大压力：一方面，它们需要证明模型足够安全，不会造成滥用；另一方面，又必须满足政府对高可用性、低拒答率和任务连续性的要求。对于行业而言，这意味着AI安全不再只是实验室内部的红线，而会被采购合同、法院判决和国家安全政策重新定义。

编者按：安全与可用性的边界更难划清

这起案件凸显了大模型治理的核心难题：一个在民用场景中被认为负责任的限制，在军事场景中可能被视为风险；而一个为了任务效率开放的能力，在公共安全和人权层面又可能制造新的隐患。法院支持政府拉黑Anthropic，并不等于否定AI安全护栏的必要性，但它释放出一个明确趋势：当AI被纳入国家能力体系，企业单方面设定规则的空间将受到更多挑战。

未来，AI公司可能需要为不同场景建立更清晰的分级授权机制，例如面向普通用户、企业客户、政府部门和军事任务采用不同的能力边界与审计流程。但这也会带来新的问题：谁来监督这些高权限模型？开放哪些能力才算合理？如果AI系统在军事行动中出错，责任应由政府、供应商还是部署方承担？这些问题，远比一场采购纠纷更复杂。

本文编译自Ars Technica