程序员数小时破解Claude隐形水印，欧盟AI监管遭现实考验

编者按：Anthropic的一次合规表态，数小时内就被技术社区“拆台”。这不仅是全球首个国家级AI监管框架与真实黑客文化的正面碰撞，也提醒所有人：AI溯源，远未成熟。

上周，Anthropic宣布将在其Claude模型生成的文本中加入隐形水印，以符合欧盟即将实施的新规。这项“不可见但可检测”的水印机制，本应成为AI内容溯源的重要防线。然而，在公告发布的数小时之内，已有程序员开始在线展示如何绕过水印的“override”方案。这一反转速度，既超出了Anthropic预期，也再次揭示了AI监管在技术层面所面临的现实困境。

“隐形水印”是什么？

与传统水印不同，隐形水印并不会在视觉上破坏文本内容。Anthropic描述其原理为：在模型生成文本时，通过某种伪随机/统计模式嵌入一个人类难以察觉的信号。这些信号不会改变语义，但外部检测工具可以通过分析文本的token概率或特定模式来确定文本是否由Claude生成。

Anthropic强调，这种水印对用户透明，且在极端情况下可以辅助检测AI生成内容，如虚假信息、深度伪造文本和学术不端。欧盟相关法规要求生成式AI模型采取适当的追溯与透明机制，以便标记AI生成内容。Anthropic将其视为合规举措。

程序员的反击

然而，在Anthropic公告后的几小时内，多个技术社区便出现了“绕过教学”。一位程序员在演示中展示，只需对模型生成文本做少量修改——例如删除或替换部分标点、调整同义词或重新排列句子——就可以让检测工具无法识别。更进一步的方案还包括使用其他语言模型对文本进行“重写”，或者直接调用API时禁用某些参数。

“水印只存在于模型的原始输出里；一旦文本经过人类的任何一道普通编辑，它就不再是可验证的。说白了，水印更像是一个温顺的提醒，而不是一道坚固的锁。”

这些“workarounds”是否真的可以彻底移除水印？取决于其强度。但多位安全专家指出，目前公开讨论的绕过方法已达到实际生效的效果，至少能够显著降低检测置信度。

欧盟监管的尴尬地带

欧盟早在《人工智能法案》中便提出了透明度要求。最新一轮规则草案进一步细化：大模型发布的AI生成内容，需要具备机器可读标记，并且从技术可行性的角度采取“可靠、可互操作、可访问”的方案。

但“技术可行”是一个弹性条款。Anthropic的水印被视为积极尝试，可水印的弱点决定了它难以承担核心合规手段。批评者认为，监管层不应过度依赖水印等“事后检测”技术，而应同时建立内容登记、服务提供商责任链，并为开源社区提供更清晰的规范。

一场军备竞赛的起点

从历史上看，无论是图片水印、深度伪造检测还是文本溯源，每一次技术防御出现后，很快就会出现新的绕过手法。真正的问题是：监管规则能否快速迭代，并且激励企业持续更新水印技术？

Anthropic对此回应称，“我们的水印方案并不是为了成为万能药；其目标是在当前技术条件下提供一种可靠的溯源方式。我们会把打补丁常态化。”但这意味着，AI生成内容的水印，或许永远不会成为“不可破解”的绝对标记，而是转变为一场漫长猫鼠游戏中的持续变量。

对行业与用户的启示

对开发者而言：如果想认真处理AI内容合规，就不能把水印当作唯一防线。对普通用户而言：看到水印检测结果还要多一份警惕。对监管者而言：应当在技术标准之外，加入对使用场景与责任人的考量。

回到本文最初的一幕：Anthropic的公告尚在新闻热度中，程序员就用实际行动证明了“互联网抗拒监管”的本能。这种张力并不会消失，只会跟随AI技术的发展不断演化。本文编译自WIRED