研究曝OpenAI与谷歌新模型可被轻易诱导生成裸露图像

据Ars Technica报道，一项最新研究揭示，OpenAI和谷歌近期主推的新一代AI图像生成模型存在严重安全漏洞——研究人员只需使用特定攻击手法，便能轻易绕过两家公司设置的防护机制，诱导模型生成裸露或色情图像。这一发现直接挑战了AI巨头关于“新模型更安全”的公开承诺。

安全防护形同虚设？

研究团队指出，这种攻击方法针对的是当前主流AI图像生成模型中普遍采用的“安全过滤器”机制。理论上，这些过滤器会在模型输出前对生成内容进行检测，拦截涉及裸露、暴力或其他违规内容的图像。但研究人员发现，通过精心构造的提示词，或利用模型对上下文理解上的盲区，攻击者可以诱导模型生成本应被禁止的内容。

更令人担忧的是，受影响的对象并非旧版本模型，而是OpenAI和谷歌最新发布、在对外宣传中强调安全能力大幅提升的新一代模型。这意味着，尽管两家公司在安全对齐（alignment）和内容审核上投入了大量资源，实际的防护效果仍难以令人满意。

行业共性难题

攻击方法暴露了OpenAI和谷歌在AI裸露内容防护上的缺陷。

事实上，AI图像生成模型被“越狱”并非新鲜事。从早期的Stable Diffusion到后来的DALL·E、Midjourney，几乎每一代生成式AI都曾被曝出可被诱导生成违规内容。行业内的普遍做法是“打补丁”式应对：每当一种攻击手法被公开，厂商便迅速修补漏洞，但新的绕过方法很快又会出现。这种猫鼠游戏使得AI内容安全始终处于被动防御状态。

值得注意的是，随着AI生成图像在社交媒体上的传播日益广泛，深度伪造（deepfake）和非自愿色情内容（NCII）问题已经引发全球监管机构的关注。多个国家和地区正在推进立法，要求AI公司对生成内容承担更多责任。在此背景下，新模型接连被曝出安全漏洞，无疑会加大监管压力。

编者按：安全承诺与现实之间的落差

此次研究之所以引发关注，不仅在于技术层面的漏洞本身，更在于它揭示了AI公司在安全宣传与实际能力之间的落差。当厂商在发布会上高调宣称“新模型安全性显著提升”时，独立研究者的测试却显示，这些防护措施可能只需几个巧妙设计的提示词就能被绕过。

对于OpenAI和谷歌而言，问题不只是修补某个具体漏洞，而是要重新思考安全机制的设计思路。当前基于输出端过滤的方案，本质上是在“事后拦截”，难以覆盖所有攻击变体。业内一些专家建议，应当将安全考量更早地嵌入模型训练和对齐阶段，同时引入更透明的第三方审计机制。

然而，在激烈的模型竞赛中，安全往往让位于速度和性能。如何在快速迭代的同时不牺牲安全性，是OpenAI、谷歌以及整个生成式AI行业都必须回答的问题。可以预见，随着监管趋严和公众意识提升，AI内容安全将从“加分项”变为“必选项”，而此次研究或许只是这场长期博弈中的又一个注脚。

本文编译自Ars Technica