旧金山责令Meta停止纵容AI儿童虐待广告

旧金山市检察官办公室近日向科技巨头Meta发出严厉警告，要求其立即停止“允许”在其社交平台上投放由人工智能生成的儿童性虐待（CSAM）广告，并对此类内容为何能反复出现在Facebook和Instagram上作出正式解释。这一罕见的行政行动，再度将AI技术滥用与平台审核失效的问题推向舆论风口。

惊人指控：AI生成的虐待广告反复出现

根据旧金山市检察官办公室发布的公开文件，Meta旗下的两大社交平台至少从数月前起就开始出现由生成式AI合成的儿童性虐待广告。这些广告往往伪装成普通内容，利用算法推送至特定人群，试图诱导点击并引导至非法网站。市检察官办公室指出，这些广告不仅违反平台自身的内容政策，更可能触犯多项联邦与加州法律。

“Meta声称拥有最先进的内容审核系统，但事实是，这类极其恶劣的AI生成内容在平台上被反复投放，甚至在被举报后仍能再次出现。”市检察官办公室在一份声明中表示，“我们要求Meta提供更为透明的解释，并立即采取有效措施阻止这种行为。”

Meta回应：广告不在城市管辖范围内

面对来自地方政府的强势指责，Meta方面的回应显得十分微妙。在一份提交给市检察官办公室的初步答复中，Meta的法务团队表示，这些广告所涉及的内容生成与投放过程可能不在旧金山市的行政管辖范围内，因为平台的服务条款和实际运营结构均指向更广泛的法律体系。

Meta特别强调，公司已经部署了包括AI自动检测、人工审查和用户举报在内的“多层防护机制”，并指出公开可用的数据无法直接证明“允许”这一主动行为的存在。但市检察官办公室并不买账——他们认为平台推荐算法对广告传播负有不可推卸的责任，而“不主动删除”并不等同于“没有允许”。

编者按：这已非Meta第一次因平台安全治理而遭受斥责。从中期选举中的虚假信息，到极端主义内容与人口贩卖隐藏窝点，Meta旗下平台长期被诟病为“安全核查滞后”。但当AI所生成的虐待素材可以被批量化制造、并以广告形式低成本投放时，传统的内容过滤手段显然已经难以从容应对。这次旧金山之所以高调介入，也许是希望以城市之力撬动平台改革——但效果如何，仍要打上问号。

生成式AI给平台治理带来的新挑战

生成式AI的爆发式普及在给内容创作带来便利的同时，也为非法内容制造提供了新的工具。过去，儿童性虐待内容的制作和发布还需依赖复杂的拍摄或剪辑流程，而现在，通过开源的图像生成模型，一些甚至无需真实受害者的“虚拟虐待”素材可在数秒内生成。这种由AI生成的CSAM让平台审核更加困难——它既模糊了“真实受害者”与“合成内容”的边界，也叠加了算法投放的规模效应。

互联网观察基金会（IWF）曾多次警告，AI生成的儿童虐待内容数量在2025至2026年间呈指数级增长。该机构表示，许多AI生成的CSAM不仅能够绕过常规识别系统，还频繁出现在广告平台、社交媒体信息流及公开论坛中。执法机构面临的一个核心难题是：若画面中没有一个真实存在的受害者，应如何在现行法律中界定“伤害”？

多位法律专家表示，虽然大部分国家已经通过法律惩罚制作和传播真实儿童性虐待素材的行为，但针对AI合成CSAM的规定仍尚不完善。一些司法管辖区正尝试将其纳入“淫秽物品”或“深度伪造”法律框架，但前提仍需平台配合识别与举报。

旧金山的行动能否引发连锁反应？

旧金山是多个全球最大社交媒体平台的总部所在地，也是科技监管的前沿阵地。市检察官办公室此次对Meta发出行政命令，虽然没有直接启动刑事调查，但已经表明：地方政府将不再容忍平台对AI非法内容的“结构性放任”。

分析人士指出，如果Meta无法提供一份令人满意的应对方案，旧金山方面可能会进一步发出传票、要求提供内部审查记录，甚至可能交由州总检察长介入。一旦形成先例，其他城市或州也很可能效仿，进一步推动联邦立法机构加速对AI生成内容的监管立法。

对于Meta来说，此时正处于多事之秋。面对欧盟《数字服务法》的严格合规要求、美国联邦贸易委员会对其隐私保护协议的质疑，以及本次地方政府的直接问责，平台必须认真对待其庞大的内容系统中每一个可能滋生危害的角落。AI技术本身没有善恶，但掌控并运营这一规模系统的科技公司，必需要承担起与其规模相匹配的责任。

截至发稿前，Meta尚未对旧金山的最新要求作出进一步回应。旧金山市检察官办公室已要求Meta在30天内提交正式解释，并附上清晰的整改时间表。

本文编译自WIRED