五角大楼自夸用AI代笔国会报告

美国国防部（五角大楼）日前高调宣布，其下属机构已开始使用生成式人工智能（AI）工具撰写国会根据《国防授权法》要求提交的定期报告。这一消息由Ars Technica率先披露，五角大楼首席数字与人工智能官办公室（CDAO）在一份内部备忘录中声称，目前已有超过150万名现役和文职人员在使用各类生成式AI工具，涵盖办公辅助、情报分析、后勤优化等场景。

AI代笔：效率提升还是责任规避？

据五角大楼官员透露，AI主要用于起草例行状态报告、预算说明和政策影响评估等非机密文件。这些报告此前通常由低级军官和文秘人员耗时数周完成，如今借助定制的AI模型（基于GPT-4架构的军事版本），可在数小时内生成初稿。CDAO主任克雷格·马特尔博士表示：“AI不是替代人类判断，而是让我们的分析员从繁琐的文字工作中解放出来，专注于更高层次的战略思考。”

然而，批评者指出，国会要求提交报告的本意是确保行政部门对立法机构负责，若由AI代笔，可能导致关键细节被忽略或美化。前国防部督察长顾问、隐私与问责中心研究员丽莎·格罗夫斯表示：“AI生成的内容可能缺乏对政治敏感议题的微妙把握，甚至无意中输出训练数据中的偏见。当一份报告被标记为‘AI辅助’，国会议员会如何解读其中数据？”

事实上，五角大楼并非首次涉足AI。自2023年成立首席数字与人工智能官办公室以来，国防部已累计部署超过800个AI试点项目，从无人机自主导航到网络安全监测。但将AI引入行政报告写作，仍属首次公开披露。

150万用户：规模背后的隐忧

五角大楼声称150万人员正在使用生成式AI，这个数字几乎占美国现役部队（约130万）和文职人员（约70万）总数的一半。CDAO强调，所有AI工具均部署在“本地化安全网络”上，与互联网隔离，且输出内容需经过至少两名人类审核员复核方可发出。

但安全专家指出，即使离线部署，大语言模型仍可能通过细微的统计模式泄露训练数据中的敏感信息。此外，AI生成报告的一致性和可预测性，可能恰好给对手提供情报分析的“模板”。兰德公司高级研究员、前国家安全局AI安全主管佩德罗·费尔南德斯表示：“当AI生成的报告呈现固定的句式和结构，对手可以通过文本特征推测我方的决策流程和资源分配重点。”

更值得关注的是，五角大楼并未说明AI工具是否被用于处理机密级（Secret或Top Secret）材料。根据美国《国防部AI伦理原则》，AI不得在未取得“充分信任”的情况下参与任何可能影响生命安全的决策。报告撰写虽不直接涉及杀伤链，但错误的成本估算或威胁评估可能导致预算拨付失误。

国会审查与法律灰色地带

美国众议院军事委员会主席迈克·罗杰斯（共和党）在听闻此消息后表示：“国会要求的是人类官员的判断，不是机器人的模板。”他已要求五角大楼在30天内提交所有使用AI撰写报告的清单，并评估是否违反《联邦文件法案》关于“文件真实性”的要求。

法律专家指出，《联邦文件法案》（44 U.S.C. § 3101）要求行政机关记录“充分且适当”的证据以支持其行动。用AI生成报告是否等同于人类“记录”？尚未有判例。此外，若报告内容因AI模型错误被误导，责任应由谁承担？是批准使用的指挥官，还是开发模型的承包商？

尽管存在争议，五角大楼仍在加速AI普及。CDAO计划在2027年将生成式AI覆盖至所有军种和国防机构，并正在开发“自主报告验证系统”以自动检查AI输出与数据库的一致性。

编者按：五角大楼此番高调自夸，既是对内树立“科技强军”形象，也是对国会监督的一种试探。AI确实能提升效率，但军事机构与立法机构之间的制衡关系，不能因技术捷径而削弱。当国会报告的起草者变成无意识的算法，代议制民主的问责链条可能发生断裂。此外，150万用户说明AI已深度嵌入美军日常运作——这不仅是一个效率工具，更是一个可能改变决策文化的变革力量。各国军事决策者需警惕：AI带来的“便利”是否会使人类指挥官逐步丧失对逻辑链的操控与反思？

本文编译自Ars Technica