旧金山要求苹果谷歌下架AI‘脱衣’应用

本周，旧金山市检察官办公室采取了一项令人瞩目的行动，正式向苹果和谷歌发出停止函，要求这两家科技巨头从其应用商店中删除13款所谓的“换脸”应用（face-swap apps）。这些应用利用人工智能技术，能够将普通的照片转换为逼真的裸体图像，而绝大多数受害者是毫无戒心的女性和女孩。

事件背景：AI换脸技术沦为性暴力工具

据WIRED报道，上述应用并非普通的娱乐软件，而是专门用于生成虚假裸体图像的工具。用户只需上传一张照片（通常是从社交媒体或私人相册中窃取），AI算法便会自动“脱去”衣服，生成极具真实感的裸体图像。这些图像随后被用于骚扰、勒索、诽谤甚至在线传播，对受害者造成无法估量的心理伤害和声誉损失。

旧金山市检察官David Chiu在声明中强调：“这些应用将女性当成了AI驱动的色情生产机器。科技公司不能坐视不管，任由自己的平台成为性暴力的加速器。”他还指出，苹果和谷歌虽然在各自的应用商店政策中禁止色情内容，但这两款应用并未被归类为色情工具，而是伪装成“美容滤镜”或“趣味换脸”软件，从而规避了审查。

法律依据与科技公司的责任

停止函引用了加州法律中的多项条款，包括禁止不正当竞争和虚假广告。检察官办公室认为，苹果和谷歌通过审核并上架这些应用，实质上是在从这些违法活动中获利。更严重的是，这些应用的设计意图本身就是非法的：它们被广泛用于未经同意的私密图像制作与传播，这直接构成了对女性基本权利的侵犯。

事实上，类似“脱衣”应用早在前几年就已出现——例如2023年爆火又迅速被封杀的“DeepNude”。但AI技术的快速迭代使得新一代应用效果更加逼真、操作更简单，甚至能在几秒钟内完成“换脸”。与早期版本不同的是，如今的版本可以支持视频和实时摄像头输入，进一步放大了潜在危害。

“绝大多数受害者是女性，而且往往是未成年人。这些应用不仅是技术之恶，更是系统性性别暴力的数字化延伸。”——旧金山市检察官办公室声明

值得注意的是，这并非苹果或谷歌首次因应用审核不力而遭到质疑。2024年，一群受害者曾联合起诉苹果，指控其应用商店允许恶意跟踪软件上架。此次旧金山直接以政府名义发函，标志着监管力度的显著升级。

科技行业的回应与未来挑战

截至发稿，苹果和谷歌均未对停止函做出正式回应。但据知情人士透露，两家公司内部已开始讨论如何加强AI生成内容的审查。然而，现实困境在于：这类应用往往采用高度技术化的手段来绕过检测——例如使用第三方API、动态加载内容，或者将“换脸”功能隐藏在多次点击之后。

从行业角度看，这场“猫鼠游戏”远未结束。一方面，AI的低门槛特性使得任何人都能快速开发并上传类似应用；另一方面，应用商店的审核团队几乎不可能逐一测试所有应用的潜在恶意用途。安全专家建议，平台应当引入更严格的AI伦理审查，例如要求开发者披露数据用途、禁止自动生成露骨内容，并对投诉率高的应用启动快速下架流程。

编者按：此次旧金山的行动释放了一个明确信号：科技巨头不能再以“技术中立”为借口回避责任。当一项技术的绝大多数应用场景是伤害他人时，平台必须以最高道德标准来评估其风险。更重要的是，法律需要跟上技术演变的步伐——仅仅事后追究责任远远不够，必须建立从开发、上架到使用的全链条监管体系。否则，AI的进步将始终伴随着无辜者的眼泪。

本文编译自WIRED