AI安全遇上战争机器

在AI迅猛发展的时代，安全与军事应用的碰撞已成为焦点。WIRED资深记者Steven Levy于2026年2月21日刊文指出，AI安全先锋Anthropic正面临严峻考验：公司明确拒绝将其强大模型用于自主武器或政府监控，这可能导致其丧失一份价值数十亿美元的军方合同。

Anthropic的AI安全宣言

Anthropic成立于2021年，由前OpenAI高管Dario Amodei创立，以开发'负责任的AI'为使命。其核心产品Claude系列模型，以'宪法AI'框架闻名，这种方法通过内置伦理准则，确保AI输出符合人类价值观。公司长期强调'有益AI'，拒绝高风险应用，如大规模杀伤性武器或侵犯隐私的监控系统。

原文摘要：Anthropic doesn’t want its AI used in autonomous weapons or government surveillance. Those carve-outs could cost it a major military contract.

这种立场源于创始人对AI存在风险的深刻担忧。Amodei曾公开表示，AI若落入错误之手，可能引发'失控灾难'。Anthropic的'责任缩放'(Responsible Scaling Policy)明确列出拒绝清单，包括致命自主武器系统(LAWS)和实时监控。

军事合同的巨大诱惑

美国国防部正加速AI整合，预算中AI相关支出已超百亿美元。继JEDI云合同后，军方推出多项AI项目，如'联合AI中心'(JAIC)，旨在提升情报分析、无人机自主决策等领域。Anthropic的Claude模型在自然语言处理和多模态能力上领先，若参与，可获巨额资金和技术验证机会。

据业内消息，一份潜在合同价值高达50亿美元，涉及AI辅助战场决策。但Anthropic高层在谈判中划出红线：绝不触及武器化和监控。这让五角大楼官员大感意外，因为竞争对手如Palantir和Anduril已深度嵌入军方生态。

行业背景：AI与军方的爱恨情仇

AI军事化并非新鲜事。2018年Google的Project Maven项目引发员工抗议，导致公司退出，尽管后来重返类似领域。OpenAI则于2024年调整政策，允许军用但排除武器开发，已与军方签署多份协议。Microsoft和Amazon的云服务更是军方支柱。

本文由 赢政天下编译整理，原文来自海外媒体 - Winzheng.com。

全球视角下，中国和俄罗斯也在推进AI武器，如无人机蜂群和智能导弹。联合国呼吁禁止LAWS，但进展缓慢。Anthropic的拒绝凸显美企分裂：一边是商业追逐，一边是伦理坚守。

代价与风险：短期损失，长远影响

拒绝合同或致Anthropic资金链承压。公司虽获亚马逊和谷歌投资，但军方订单是快速扩张捷径。估值已超150亿美元的Anthropic，可能需转向民用市场，如企业级AI助手。

然而，坚持原则或成竞争优势。在公众舆论中，Anthropic形象更正面，尤其欧盟GDPR和中国AI法规趋严之际。投资者如FTX遗产基金，也青睐'安全AI'叙事。

编者按：安全底线 vs. 国家安全

安thropic的抉择折射AI双刃剑本质。军事AI可提升效能，减少士兵伤亡，但也放大滥用风险，如算法偏见导致平民伤亡。编者认为，企业不应独担伦理重任，亟需国际公约约束。同时，AI安全不应成商业壁垒，美企若一味迎合军方，可能助长全球军备竞赛。

长远看，Anthropic或成灯塔，激励更多公司反思：技术进步的代价是什么？在2026年的AI战场上，安全不仅是技术问题，更是文明考验。

（本文约1050字）

本文编译自WIRED，作者Steven Levy，日期2026-02-21。