德国法院裁定：谷歌须为AI生成错误信息担责

2026年6月13日，德国一家地方法院作出了一项具有里程碑意义的判决：Google须为其人工智能系统“AI概览”（AI Overviews）生成的虚假陈述承担法律责任。这一裁决首次从司法层面明确了AI服务提供方的严格责任——只要企业参与了AI系统的设计、训练、运营与管理，就必须对其产生的任何损害负责，无论其是否具有主观过错。

案件背景：一封错误的法律建议信

案件起因于一位德国用户在Google搜索“如何撤销租房合同”时，AI概览自动生成了一段回复，声称根据德国《民法典》第546条，租户可以单方面解除合同且无需承担违约金。实际上，该条款并不存在，正确的法律依据应为《民法典》第573条，且解除合同需要满足严格条件。用户轻信了AI回复并据此操作，最终被房东起诉，蒙受了约1.2万欧元的损失。

“AI不是魔法，而是由人类设计、训练并持续干预的系统。如果其输出造成损害，背后的企业必须负起责任。”——主审法官在判决书中写道

法院认为，Google不仅提供了AI模型，还通过大量人工标注、反馈机制和内容过滤策略持续干预AI的输出质量。这种“深度控制”使其不能再以“仅仅是技术支持平台”为由逃避责任。判决要求Google向用户支付全额赔偿，并责令其在德国境内停用存有类似法律风险的AI概览模块，直至通过合规审查。

AI概览：效率与风险的失衡

Google于2024年5月正式推出AI概览功能，旨在为用户提供即时、简洁的答案摘要。然而，该功能很快暴露出严重的信息准确性问题：建议用户吃石头、在披萨上涂胶水等荒诞回复频繁出现，引发全球用户和监管机构的担忧。尽管Google多次紧急修复，但系统性错误依然难以根除。

此次德国法院的判决，正是针对AI概览在“高风险领域”（如法律、医疗、金融）的错误输出。法院特别指出，AI系统在处理专业领域知识时，其“生成式幻觉”本质决定了它无法保证100%准确，因此企业必须通过人工审核、权威数据源限制、风险提示等方式建立充分的安全机制。

编者按：责任归属的“分水岭”时刻

这一判决的意义远超个案。在欧盟《人工智能法案》（AI Act）即将全面生效的背景下，德国法院率先通过司法实践，将“AI系统开发者与运营者”的责任推向了合规的最前沿。对比此前美国和中国在类似案件中的处理方式，德国的严格责任路径更为激进——它不要求原告证明企业存在疏忽，只需证明损害与AI输出之间的因果关系。

值得注意的是，该判决书明确援引了欧盟AI法案中关于“高风险AI系统”的条款，指出提供法律建议的AI功能应当被归类为高风险系统，从而需要满足更严格的透明度、准确性和人工监督要求。尽管Google AI概览目前仅被列为“有限风险”，但法院认为其实际应用场景已跨越了风险分类的界限。

行业影响：从搜索引擎到律所的连锁反应

专家预测，此项判决将引发连锁反应：一方面，Google可能被迫在欧洲各地调整AI概览的部署策略，甚至限制其在法律、医疗等敏感领域的应用；另一方面，其他提供AI搜索、AI助手服务的企业（如微软Copilot、Perplexity AI）也将面临更严峻的合规挑战。保险行业已开始着手开发“AI责任险”产品，而律所则纷纷设立专门应对AI侵权案件的业务线。

Google在声明中表示“尊重但不同意”法院的判决，并已提起上诉。该公司强调，AI概览仍然是一种实验性功能，用户应自行验证关键信息。然而，法院对此回应称：“一旦企业选择将AI输出展示给公众，就不再是‘实验’——而是服务。”

本文编译自WIRED