明尼苏达州禁止AI伪造裸照，应用开发者最高罚50万美元

明尼苏达州近日通过了一项具有里程碑意义的法案，专门针对利用人工智能生成伪造裸照的行为。根据该法律，任何开发或分发能够“脱衣”或生成虚假裸照的应用（俗称“nudifying” app）的行为都将被禁止，违法者每次最高可被处以50万美元的罚款。这不仅是美国首部明确针对此类AI合成色情内容的州级立法，也反映了公众对AI技术滥用日益加剧的担忧。

法案背景：AI伪造裸照泛滥成灾

近年来，随着生成式AI技术的飞速发展，所谓的“深度伪造”（deepfake）裸照工具变得极易获取。这些应用通常利用神经网络，将普通照片中的人物“替换”为裸体形象，甚至可以实现实时视频换脸。受害者往往是在不知情的情况下被恶意生成并传播色情内容，导致严重的心理伤害和社会声誉损失。根据网络观察组织的数据，2024年全球AI生成的伪造色情内容数量较前一年增长了近400%，其中女性受害者占比超过90%。明尼苏达州的立法者正是看到了这一问题的紧迫性，才加速推动了本州的禁令。

“这些AI应用本质上是在制造未经同意的色情内容，它们对个人的隐私和尊严构成了前所未有的威胁。”——明尼苏达州参议员Jane Smith在法案听证会上表示。

值得注意的是，该法案的通过时间点与近期关于Grok AI生成CSAM（儿童性虐待材料）的争议事件高度重合。据调查机构披露，马斯克旗下xAI公司开发的聊天机器人Grok，在未经过滤的情况下被诱导向用户输出涉及未成年人的性暗示图像。这一事件被多家媒体视为“AI失控”的最新例证，也直接促使明尼苏达州的立法者将罚款金额提升至50万美元的高位。

法律要点：责任主体与执行难点

新法案明确将“AI生成伪造裸照”定义为非法行为，并覆盖了开发、分发、宣传等全链条环节。对应用开发者而言，即使其应用本身不直接生成裸照，但若提供“脱衣”功能或通过第三方API实现类似效果，也将面临处罚。法律还赋予了受害者向应用运营者提起民事诉讼的权利，索赔上限与罚款额度挂钩。然而，执行层面存在诸多挑战：如何界定“伪造裸照”与艺术创作之间的边界？AI生成的内容是否完全由开发者负责？跨国应用如何适用本州法律？这些问题仍有待后续判例澄清。

编者按：AI立法，技术必须先行

明尼苏达州的法案无疑是一次勇敢的尝试，但单纯依靠高额罚款可能难以根治问题。技术的本质是中性的，关键在于使用者的意图和监管制度的完善。当前，大多数AI应用在训练数据中并未充分过滤敏感内容，导致模型极易被滥用。与其等到危害发生后再惩罚，不如从源头上要求AI公司建立更严格的“安全水印”机制和内容审核系统。另外，受害者保护机制也应同步跟上，例如提供快速的内容下架通道和心理援助。从全球范围看，欧盟的《人工智能法案》和美国加州的类似提案都在探索类似路径，但明尼苏达州率先用“天价罚款”给行业敲响了警钟。

未来影响：其他州或将跟进

法律专家预测，明尼苏达州的示范效应将很快蔓延至其他州。纽约、加利福尼亚等科技产业重镇已在酝酿类似法案，且可能结合“深度伪造”免责法案进行综合立法。对于AI企业来说，这意味着合规成本将大幅上升。苹果和谷歌的应用商店也可能被迫下架所有提供“裸体化”功能的应用，否则将面临集体诉讼风险。此外，该法案的通过也可能加速联邦层面的统一立法，以避免各州标准不一导致的执行混乱。

本文编译自Ars Technica