Meta广告现AI生成儿童性虐待图像，超50条已投放

据WIRED报道，Meta广告库数据揭示了一个令人不安的事实：超过50个包含AI生成儿童性虐待图像的广告，曾在Facebook、Instagram、Messenger或Threads上公开投放，部分广告直至本周仍在运行。这一事件不仅撕开了Meta内容审核体系的裂口，也再次将AI技术滥用的严峻现实摆在公众面前。

事件经过：广告库中的非法内容

WIRED通过查询Meta的公开广告库发现，这些违规广告以图片和视频形式出现，内容明显涉及AI生成的儿童性虐待素材。广告库本是Meta为履行广告透明度义务而设立的公开工具，如今却成为外界窥见平台审核失效的窗口。更令人担忧的是，这些广告并非藏匿于暗网，而是通过正规的广告投放系统，精准触达了全球庞大的用户群体。

据统计，这些违规广告的投放时间跨度不小，有的甚至可以追溯到数月之前，而不少广告直到本周仍在传播。这意味着，Meta的自动化审核系统在相当长的时间内未能识别出这些非法内容。

AI生成CSAM：监管与审核的双重困境

儿童性虐待材料（CSAM）一直是互联网平台清除的优先事项。传统上，平台依赖PhotoDNA等哈希匹配技术来识别已知的非法图像。然而，生成式AI彻底改变了游戏规则。AI可以批量制造高度逼真、且从未真实存在的儿童性虐待场景，这些新生成的内容无法与任何已知数据库匹配，因此能够轻易绕过现有的检测系统。

更令人担忧的是，这类AI模型的获取门槛极低。开源社区中存在大量未经过滤的图像生成模型，一些恶意分子甚至开发了专门用于生成非法内容的定制模型。此前，斯坦福大学互联网观察站曾发出警告，称AI生成的CSAM正在以指数级速度增长，对执法机构和平台审核团队构成巨大挑战。Meta此次事件，不过是这一宏观危机浮出水面的冰山一角。

编者按：技术本身并无善恶，但失控的技术必然带来灾难。AI生成的非法内容不是科幻小说，而是正在发生的现实。平台如果不能在技术竞赛中跑赢滥用者，就无异于为犯罪提供了温床。

Meta的回应与平台责任

截至发稿，Meta尚未对WIRED的报道做出完整回应。但据行业惯例，此类事件发生后，Meta通常会立即删除违规内容，并封禁相关广告账户。然而，这种“打地鼠”式的应对方式是否足够？广告库数据显示，部分违规广告的投放时间跨度极大，从数月前直到本周，这意味着Meta的自动审核系统在长达数周甚至数月的时间里未能识别出这些明显的非法内容。

事实上，Meta在内容审核方面投入了大量资源，号称拥有数万名审核员和先进的人工智能模型。然而，广告系统的自动化投放机制是另一回事——广告主可以通过多种方式逃避检测，包括使用变形图像、调整文案、甚至针对不同的受众群体进行微小的像素级修改。AI生成的内容进一步削弱了传统检测手段的有效性，使得人工审核员也难以及时处理海量广告流。

更广泛的行业问题

Meta并非个例。整个科技行业都在努力应对AI生成的非法内容。OpenAI、谷歌等公司相继更新了安全政策，禁止将AI工具用于生成非自愿亲密图像或儿童性虐待材料。但开源模型的广泛传播，使得此类禁令的实际效果大打折扣。此外，执法部门也面临取证和定性的困难：如果图像中的儿童完全由算法生成，是否构成法律意义上的“真实受害者”？这一法律空白亟需立法者明确。

此次事件给科技公司敲响了警钟。AI技术不能成为犯罪的帮凶。平台需要重新审视其广告审核流程，将AI生成内容的检测能力提升到新的水平。也许，采用更先进的深度伪造检测技术、建立更严格的广告主实名制、以及主动与执法机构共享可疑信息，是未来必须走的路。否则，类似的丑闻只会越来越多。

本文编译自WIRED