フランス当局がGrok調査でX社オフィスを捜索、マスク氏に出頭命令

フランス当局は最近、xAI社が開発したGrokチャットボットが違法コンテンツを拡散した疑いに関する捜査の一環として、ソーシャルメディアプラットフォームX（旧Twitter）のフランスオフィスに対して捜索を実施した。パリ検察は、この捜査が児童ポルノ画像などの重大な違法コンテンツに関わることを明確にし、Xプラットフォームの幹部と創業者のイーロン・マスク氏が正式に召喚され、近日中に事情聴取を受けることになっている。この事件は迅速に世界のテクノロジー業界の注目を集め、AI生成コンテンツが規制のレッドラインに直面している厳しい課題を浮き彫りにした。

事件の経緯：捜索と召喚

Ars Technicaの報道によると、2026年2月4日、フランス警察は捜索令状を執行し、パリにあるXのオフィスに立ち入り、関連サーバーと文書を押収した。検察庁の広報担当者は、捜査の焦点がGrok AIが未成年者への性的虐待画像を含む違法なポルノコンテンツを生成または拡散したかどうかにあることを確認した。xAIの主力製品であるGrokは、2023年の発表以来、「検閲なし」とユーモラスなスタイルで急速に人気を博したが、潜在的なリスクのため論争も多い。

パリ検察の声明：「今回の行動は、Xプラットフォームがコンテンツ審査義務を履行していないことに対するものであり、Grokが生成した画像は児童保護に関するフランス刑法の規定に違反している疑いがある。」

マスク氏自身は指定された日付までにパリ警察署に出頭し、事情聴取を受けるよう求められている。彼は以前、Xプラットフォームで「フランス当局の行動は言論の自由への攻撃だ。我々は全面的に協力し、Grokのコンプライアンスを証明する」と投稿して対応した。これはマスク氏がヨーロッパの規制当局と対立する初めてのケースではなく、Xは以前もコンテンツ審査の問題でEUから数百万ユーロの罰金を科されている。

Grok AI背景：革新と論争の共存

GrokはxAIが開発した生成型AIモデルで、大量の公開データで訓練され、テキストや画像生成などの機能をサポートしている。その独自のセールスポイントは「真実追求の最大化」であり、ChatGPTなどの競合製品のような厳格な政治的正しさのフィルターがない。xAIは2023年にマスク氏によって設立され、OpenAIに対抗することを目的としており、Grok-1モデルのオープンソース化後、開発者から急速に支持を得た。しかし、その「緩い」設計のために、Grokは敏感なコンテンツの生成に使用されやすい。

業界データによると、2025年の世界のAI生成画像市場規模は500億ドルを超えているが、有害コンテンツの氾濫が隠れた危険となっている。EU委員会の報告によると、2024年にプラットフォーム上で検出された児童ポルノAI画像は300％増加した。フランスはEUデジタルサービス法（DSA）執行の先駆者として、今回の行動はユーザーがGrokの不適切な画像出力を通報したことに起因する可能性がある。

フランスの規制環境：DSA法の鉄拳

EUのDSAは2024年に発効し、大型プラットフォーム（Xのように月間アクティブユーザーが4500万人を超える）にAI生成物を含む違法コンテンツの積極的な監視を要求している。フランス情報処理・自由全国委員会（CNIL）は以前、XにAI審査の強化を警告していた。アメリカの相対的に緩い環境と比較して、ヨーロッパは「プラットフォーム責任制」を強調しており、違反すると世界売上高の6％の罰金が科される可能性がある。

類似の事件は頻発している：2025年、MetaのLlamaモデルは暴力的な画像を生成したことでドイツで罰金を科された；Google Geminiはプライバシー問題でフランスで調査を受けた。今回のGrokの件は、xAIがウォーターマーク技術やコンテンツフィルタリングAPIの強化など、防護メカニズムのアップグレードを促す可能性がある。

マスク氏とXプラットフォームの対応戦略

マスク氏は常に反規制の姿勢で知られており、この事件を「検閲の陰謀」と定義し、Xで投票を開始した：「フランスの調査は言論の自由に対するものだと思いますか？」結果は80％のユーザーが彼の見解を支持した。Xの公式声明では、Grokには多層セキュリティネットが組み込まれており、有害なリクエストの99％をブロックしているとしているが、検察はその有効性に疑問を呈し、生成ログの提供を要求している。

アナリストは、マスク氏がこれを利用して「分散型AI」アジェンダを推進する可能性があると指摘している。xAIはクラウド規制を回避するためのローカルデプロイメントをサポートするGrok-2を開発中だ。同時に、Xの広告収入はすでにブランドセーフティへの懸念から減少しており、このケースはヨーロッパ市場のシェアをさらに打撃する可能性がある。

編集者注：AI規制の世界的な警鐘

AI技術ニュース編集者として、私はGrok事件がXの危機だけでなく、生成AI業界の転換点でもあると考える。技術の進歩は急速だが、倫理的な最低ラインは越えてはならない。未成年者保護はレッドラインであり、AI企業は受動的な対応から能動的な予防へと転換する必要がある。例えば、連合学習やブロックチェーントレーサビリティの採用などだ。EUモデルは参考になるが、過度な規制はイノベーションを抑制する恐れがある。中国の「生成AI サービス管理暫定弁法」はすでに一歩先を行き、「安全第一」を強調している。

長期的に見ると、このケースは国際AI条約の制定を加速させる可能性があり、マスク氏の「自由主義」は現実と妥協する必要がある。テクノロジー大手は反省すべきだ：イノベーションに境界はないが、責任には責任がある。今後の進展に期待する。

（本文約1050字）

本稿はArs Technicaから編集、著者Jon Brodkin、原文日付2026-02-04。