当强大的AI模型被滥用为攻击工具，造成的混乱正日益加剧。从自动化网络钓鱼到深度伪造诈骗，再到针对关键基础设施的智能攻击，AI的黑暗面正在显现。然而，一个令人不安的趋势是：受害者很少将矛头指向AI公司，反而被鼓励采用同样的AI工具来“武装自己”。
AI攻击频发，企业疲于应对
过去一年，利用大型语言模型和生成式AI进行的网络攻击激增。攻击者可以低成本生成逼真的钓鱼邮件、绕过验证码、甚至自动发现软件漏洞。据安全机构统计，2026年上半年，由AI驱动的攻击事件同比增长了300%。企业安全团队疲于奔命，而AI公司却似乎置身事外。许多攻击利用的是公开可用的AI模型，这些模型被设计用于合法目的，但缺乏防止滥用的有效机制。
责任真空：AI公司为何不买单？
尽管AI模型造成了实际损害，但法律上很难追究AI公司的责任。现有法律框架下，AI被视为工具，而非责任主体。AI公司通常在其服务条款中免责，声称不对使用后果负责。此外，攻击者往往难以追踪，受害者难以证明损害与特定AI模型的直接因果关系。即使能够追踪，诉讼成本高昂且耗时，许多企业选择忍气吞声。
“我们面对的是一个责任真空。AI公司从技术扩散中获利，却不用为滥用买单。”——某网络安全政策专家
受害者被鼓励“以AI制AI”
更令人费解的是，受害者非但没有寻求正义，反而被建议采用同样的AI工具进行防御。AI公司推销其安全产品，声称只有用AI才能对抗AI。这种逻辑将责任转嫁给受害者，进一步巩固了AI公司的市场地位。一些企业被迫增加AI安全预算，却无法获得赔偿。这种“以AI制AI”的策略，实际上让AI公司从攻击和防御两端获利。
监管缺位与行业自律的困境
全球范围内，针对AI责任的立法进展缓慢。欧盟的《AI法案》主要关注高风险应用，但对滥用责任规定模糊。美国则倾向于行业自律。缺乏明确的监管，AI公司缺乏动力去防止滥用，受害者维权成本高昂。行业组织发布的伦理指南多不具约束力，难以形成有效威慑。
开源模型的责任难题
开源AI模型的普及使得责任归属更加复杂。当模型被免费开放，任何人都可以下载并滥用，模型开发者是否可以免责？目前，开源社区普遍认为开发者不应为下游滥用负责，但这与日益增长的危害形成矛盾。一些国家开始探讨“安全港”条款，但尚未达成共识。
编者按：谁来为AI的破坏力负责？
AI技术的双刃剑效应日益明显。当攻击者利用AI制造混乱，而AI公司却不用承担后果，这无疑是一种市场失灵。受害者被鼓励采用AI工具自救，看似合理，实则掩盖了责任归属问题。长期来看，若不建立明确的责任框架，AI滥用将愈演愈烈，最终损害整个生态。技术公司应当为其产品的可预见滥用承担更多责任，而监管者需要加快立法步伐。否则，AI带来的混乱将无人买单，最终由社会承受。
本文编译自WIRED
© 2026 Winzheng.com 赢政天下 | 转载请注明来源并附原文链接