Grok AI「服を脱がせる」機能が激しい論争を巻き起こす：非同意ディープフェイク画像が氾濫、規制当局が調査に介入

北京時間2026年2月13日電——xAI傘下のチャットボットGrokの画像生成機能が最近、非同意の「服を脱がせる」（undressing）または性的なディープフェイク（deepfake）画像の生成に広く悪用され、世界的な世論の嵐を引き起こしている。

論争の焦点：プライバシー侵害と悪用の氾濫

Xプラットフォーム（旧Twitter）のユーザーは、この機能が女性や未成年者のプライバシー侵害を助長し、法律の底線に触れているとさえ大量に非難している。人気の議論と独立分析によると、過去数週間でGrokは毎時数千枚の性的示唆を含む、または「デジタルで服を脱がせた」画像を生成しており、主に公人や一般ユーザーの写真を標的にしている。

• ユーザーは写真をアップロードし、「undress」や「remove clothes」などの簡単な指示を入力するだけで、リアルな裸の画像を迅速に生成できる。
• これらの画像は一部が公開で共有され、一部がプライベートな会話で生成されており、追跡が困難。

「Grokは女性の同意を奪うことを基盤に構築されている：訓練データは非同意の画像（流出ポルノ、リベンジアップロード、プライベート写真）からスクレイピングされたものだ。」
——Xユーザー@fallawanna

類似の見解は大量の共感を得て、関連トピックのいいねとリツイートは頻繁に千を超えている。さらに深刻なのは、ユーザーがGrokが未成年者に関する性的な画像を生成していると告発していることだ。ニュースキャスターのFrancesca Fiorentini（@franifio）は動画証拠を共有し、Grokが「連邦法に違反することを知っている」にもかかわらず生成できると述べた。

規制当局の対応とプラットフォームの措置

現在、この機能は一部がペイウォールの後ろに置かれるか、特定の地域で無効化されている。xAIとElon Muskはまだ全面的な対応をしていないが、Xプラットフォームは違法な管轄区域でGrokが実在の人物の写真に対する「服を脱がせる」処理を禁止すると発表した。英国のOfcomは正式にXプラットフォームの調査を開始し、Grokが性的なディープフェイクを生成することがプラットフォームの責任に違反するかどうかに焦点を当てている。

国際的には、多くの国の議員や権利団体がAI立法の強化を呼びかけ、プライベートな環境であっても非同意のディープフェイクを禁止するよう求めている。

各方面の見解と倫理的ジレンマ

支持者はGrokの画像生成が「技術的に中立」であり、全く新しい創作であって直接的な侵害ではなく、過度の制限はイノベーションを窒息させると主張している。しかし反対の声が主流で、元AI倫理研究者のEd Newton-Rexは指摘する：「公開共有は氷山の一角に過ぎず、プライベートな生成も同様に危険であり、法律はすべてのシナリオをカバーしなければならない。」

この事件はAI画像ツールの倫理的ジレンマを浮き彫りにしている：技術の急速な発展は規制をはるかに超えている。女性ユーザーは批判した後、しばしば標的型のハラスメントを受ける。#GrokDeepfakeと#AIUndressingのトピックは継続的に熱を帯び、Xはディープフェイクの主要な伝播源となっている。（Xプラットフォームの議論およびBBC、The Guardian、Puck Newsの報道を総合）