2026年2月3日、フランスのパリ検察は、SNS「X」の生成AIが性的ディープフェイク画像の拡散に関与した疑いで同社パリ事務所を家宅捜索したと発表した。
仏検察、Xパリ拠点を家宅捜索
捜査対象となったのは、Xに実装された生成AI「Grok」の運用実態である。
検察は、本人の同意がない性的ディープフェイク（※）画像や児童ポルノに該当する画像の生成・拡散に同AIが関与した疑いがあると説明し、システム設計や監視プロセス、投稿管理の記録を押収した。
あわせて、利用者データの処理方法が不正に運用されていた可能性も調査範囲に含まれる。マスク氏と前CEOは今年4月に任意で事情聴取を受ける見通しだ。
これに対しX側は声明で一切の不正行為を否定し、疑惑は政治的動機に基づくものだと反発している。
検察は、フランス国内で事業を行う企業として法令順守体制が確保されているかを確認するための捜査だとしている。
※ディープフェイク：生成AIを用いて人物の顔や声を精巧に合成し、実在するかのような偽動画や画像を作る技術。悪用されると詐欺や名誉毀損、性的被害を引き起こす恐れがある。
規制強化の利点と革新停滞リスク
今回の事案は、生成AIを組み込んだSNSが単なる流通プラットフォームではなく「生成主体」として責任を負うのかという論点を浮き彫りにした。
責任範囲が明確化されれば、被害抑止や透明性向上につながり、広告主や利用者の信頼回復というメリットが見込まれる。
一方で、厳格な監視義務や事前審査の導入は、開発コストの増大やサービス速度の低下を招く可能性がある。スタートアップにとっては参入障壁にもなりかねない。
特に欧州はAI規制を先行させる地域であり、今回の判断が国際的な標準になる公算が大きい。
プラットフォーム各社は、自由な生成と安全管理を両立させる新たな設計思想を迫られる局面に入ったと言える。
関連記事：
xAI、新型動画生成AIモデル「Grok Imagine 1.0」発表 幅広い創作に対応
