EU、Xの偽画像問題を正式調査　生成AI時代のSNS統治が新局面へ

2026年1月26日、欧州連合（EU）の欧州委員会は、米SNSのXに対する正式調査を開始したと発表した。生成AI「Grok」による偽画像投稿の急増を受け、巨大IT規制であるデジタルサービス法に基づき対応状況を検証する。

EU、Xの偽画像生成問題をDSAで正式調査

欧州委員会が問題視しているのは、Xに搭載された生成AI「Grok（※）」を使い、実在する人物を性的な姿に加工した偽画像が大量に投稿されている点である。
こうしたコンテンツが拡散する中で、Xがリスクを適切に評価し、被害軽減策を講じていたかどうかが調査対象となる。調査はEUの巨大IT規制であるデジタルサービス法（DSA）（※）に基づいて実施される。

偽画像問題はすでに国際的な懸念事項となっている。
日本政府は運営会社側に対し、不適切な画像が生成されないよう技術的措置を取るよう要請した。
英国では閣僚が政府内でのサービス利用を禁止する可能性に言及しており、マレーシアなど一部の国はGrokへのアクセス制限を実施している。

EUの調査は、Xが違法・有害コンテンツの拡散リスクを体系的に分析し、予防策や対応体制を整えていたかを検証するものだ。

※Grok：米Xが提供する生成AI。文章生成や画像生成機能を備え、SNS上で直接利用できる点が特徴。
※デジタルサービス法（DSA）：EUが施行する巨大IT規制。違法・有害コンテンツへの対応義務やリスク評価を大規模プラットフォームに課している。

生成AIとSNSの両立は可能か　規制強化がもたらす光と影

今回の調査は、生成AIを提供するプラットフォームに対し、「想定外の悪用」まで含めた責任のあり方を改めて問う動きと位置付けられる。
利用者任せではなく、事業者自らがリスクを予測し、設計段階から対策を講じる姿勢が、今後より重視される可能性がある。
被害者保護や人権尊重の観点では、こうした対応が一定の抑止効果をもたらすとの見方もある。

一方で、規制強化が技術革新のスピードに影響を及ぼすとの懸念は根強い。
生成AIは創作や表現の自由を広げる一方、利用範囲を厳しく制限すれば、利便性や競争力が低下する恐れもある。特に中小のAI開発企業にとっては、過度なコンプライアンス負担が参入障壁となる可能性は否定できない。

今後は、プラットフォームの責任範囲をどこまで拡張すべきかが、主要な論点の一つとなりそうだ。
EUの判断は、前例として日本や米国を含む各国のAI・SNS規制議論に影響を与える可能性もある。
生成AIとSNSが不可分となる時代において、自由と安全のバランスをどう設計するかは、企業と政策当局の双方にとって改めて問われるテーマになりつつある。

プレスリリース

関連記事：

EU、生成AI「グロック」巡りXに関連文書の長期保管要請　運用を精査へ

あわせて読みたい

EU、生成AI「グロック」巡りXに関連文書の長期保管要請　運用を精査へ 2026年1月8日、欧州連合（EU）欧州委員会は、X（旧ツイッター）で提供される生成AI「グロック」に関する内部文書の長期保管を同社に命じたとロイターが報じた。欧州委員...

トルコ、XのAI「グロック」を一部遮断 侮辱的発言巡り検閲強化へ

あわせて読みたい

トルコ、XのAI「グロック」を一部遮断　侮辱的発言巡り検閲強化へ 2025年7月9日、トルコの裁判所はイーロン・マスク氏率いるxAIの生成AI「グロック」の一部コンテンツの遮断を命じた。エルドアン現大統領やアタテュルク初代大統領への侮...