AI引发妄想的最棘手问题

引言：AI时代的妄想迷雾

在人工智能迅猛发展的当下，一个最棘手的谜题悄然浮现：AI引发的妄想（delusions）究竟会如何重塑我们的现实认知？这是MIT Technology Review通讯《The Algorithm》本周的核心话题。作者James O'Donnell原本计划撰写关于AI与伊朗的爆料新闻——上周二我们独家披露，五角大楼正制定计划，允许AI公司使用敏感数据训练模型。但最终，他将笔锋转向更深刻的疑问：当AI生成的幻觉渗透日常生活，我们该如何应对？

这是一个每周通讯的故事。要想第一时间收到此类内容，请订阅这里。

AI妄想并非科幻概念，而是当下紧迫现实。大型语言模型如GPT系列，常因训练数据偏差或算法局限，输出虚假信息——业内称之为“幻觉”（hallucinations）。但当这些幻觉与人类偏见交织，便可能酿成集体妄想，尤其在地缘政治敏感领域。

AI与伊朗：五角大楼的秘密计划

让我们先回顾那条被搁置的新闻。五角大楼正推动一项大胆举措：邀请AI公司如OpenAI或Anthropic，使用军事情报数据训练模型。这包括伊朗核设施的卫星图像、无人机侦察视频，甚至社交媒体情报。目的是提升AI在战场决策中的准确性，例如实时识别敌方导弹发射。

背景知识：自2022年ChatGPT爆火以来，美国国防部已投资数十亿美元于AI军事应用。DARPA的AI Next计划便是典型，目标是让AI处理海量数据，超越人类分析师。伊朗作为中东热点，其核野心一直是美情报焦点。2023年，AI已用于分析伊朗无人机袭击乌克兰的轨迹，帮助美军优化防御系统。

然而，风险显而易见。AI模型若在训练中“幻觉”，可能误判伊朗铀浓缩活动为“无害实验”，或将民用卫星误认核弹头。这不仅是技术bug，更是地缘政治灾难。O'Donnell指出，五角大楼的计划虽保密，但已引发国会听证：AI公司能否保证数据安全？训练后模型是否会泄露给伊朗对手？

AI妄想的本质：从幻觉到集体癫狂

AI幻觉并非孤立问题。2024年，Google的Gemini模型因过度“多元化”训练，生成历史照片中纳粹士兵为黑人的荒谬图像，引发公愤。类似事件频发：Midjourney绘制的假新闻图片在社交媒体病毒传播，导致股市波动。

行业背景：AI妄想根源于“黑箱”性质。神经网络亿万参数间交互不可解释，导致输出不可预测。OpenAI CEO Sam Altman曾承认，GPT-4仍有20%幻觉率。尽管Retrieval-Augmented Generation（RAG）等技术缓解，但无法根治。

更可怕的是“AI-fueled delusions”：AI放大人类认知偏差。心理学家称，这类似“确认偏差”放大器。用户输入偏见提示，AI输出强化版假新闻，形成回音室效应。2025年美国大选中，AI深假视频已操纵选民情绪，伊朗黑客据称用AI生成反美宣传，渗透TikTok。

最难回答的问题：真相何在？

文章核心拷问：面对AI妄想，最难问题是“如何验证真实性？”水印技术（如Google SynthID）可标记AI生成内容，但易被绕过。区块链溯源听起来理想，却因隐私法受阻。

编者按：作为AI科技新闻编辑，我认为这不仅是技术挑战，更是哲学危机。AI如一面镜子，映照人类脆弱认知。监管迫在眉睫：欧盟AI法案已分类“高风险”模型，美国需跟进。企业应透明披露训练数据，政府建立独立审计。但最终，教育公众辨识仍是王道。忽略此问题，AI或成“数字鸦片”，催生全球妄想流行病。

未来展望：平衡创新与警醒

展望2026，五角大楼AI计划或成转折点。若成功，AI将重塑情报战；若失败，可能引发美伊误判危机。O'Donnell呼吁：开发者需嵌入“妄想检测器”，如实时事实核查模块。研究机构如MIT正研发“可解释AI”（XAI），让模型输出附带置信分数。

同时，国际合作不可或缺。中伊俄等国也在追赶AI军用：中国华为的Pangu模型已用于南海监控。全球AI军备赛中，妄想风险几何级放大。

总之，AI妄想的最难问题是“信任重建”。技术进步须与伦理并行，方能避免灾难。

本文编译自MIT Technology Review，作者James O'Donnell，日期2026-03-24。