Grokの性的画像生成に規制包囲網　EUと英国が違法性を問題視

2026年1月5日、米実業家イーロン・マスク氏が率いるxAIの生成AI「Grok」を巡り、欧州連合（EU）と英国が相次いで厳しい対応姿勢を示した。画像生成機能を通じ、子どもや女性を性的に加工・生成しているとの指摘が拡大し、当局は違法性を視野に調査を進めている。

Grok画像生成に批判集中　EU・英当局が調査姿勢

問題となっているのは、Grokに2025年12月下旬に追加された「画像編集」機能である。X上では、一般ユーザーの写真を基に、子どもや女性を性的に加工した画像が生成される事例が拡散し、児童性的虐待に該当するとの苦情が相次いだ。これを受け、Grokの安全対策や設計思想そのものが国際的な批判の対象となっている。

EUのデジタル監視を担う欧州委員会は、Grokに関する苦情について「極めて真剣に調査している」と表明した。デジタル政策担当広報官は、Grokが提供する「スパイシーモード」に言及し、「子どもの画像を含む明示的な性的コンテンツを生成している。これはスパイシーなどではなく違法であり、恐ろしいことだ」と強く非難した。

さらに同広報官は、「このような行為が欧州に存在する余地はない」と述べ、EU域内でのサービス提供そのものが問題になり得るとの認識を示した。背景には、巨大オンラインサービスに厳格な責任を課すデジタルサービス法（DSA※）があり、生成AIも規制対象から逃れられない状況になりつつある。

英国でも同様の動きが出ている。メディア規制機関Ofcomは、XおよびxAIに緊急連絡を行い、英国のユーザーを保護するためにどのような措置を講じているのか説明を求めた。Ofcomは、その回答を踏まえ、法令順守上の問題があるかどうかを判断するとしており、正式な調査に発展する可能性がある。

※デジタルサービス法（DSA）：EUが導入した包括的なデジタル規制法。巨大プラットフォームに対し、違法コンテンツの迅速な削除やリスク管理体制の構築を義務付け、違反時には高額な制裁金を科す仕組みを持つ。

生成AI規制の転換点　革新の加速か、萎縮か

今回のGrokを巡る問題は、生成AIに対する規制の在り方が新たな局面を迎えつつあることを示唆している。
特に画像生成は、テキストと比べて被害の内容が視覚的に把握されやすく、児童保護や人権侵害と結び付けて議論されやすい分野とされる。
明確な違法領域を示すことは、利用者の安全確保につながる可能性があり、その点は一定のメリットと捉えられる。

一方で、規制強化が技術革新を阻害するリスクも指摘されている。
生成AIは広告、エンターテインメント、デザインなど幅広い産業で活用が進んでおり、過度に厳格なルールは開発や表現の自由を萎縮させかねない。どこまでを許容し、どこからを禁止するのか、その線引きが不透明なままでは、事業者の予見可能性が低下するとの懸念もある。

それでも、未成年の性的表現という領域に関しては、各国で厳格な対応を求める声が強まっている。
専門家の間では、この分野については自主規制だけでは限界があり、一定の法的拘束力を伴う枠組みが必要になるとの見方も出ている。
Grokへの対応は、他の生成AIサービスにとっても参照点となる可能性が高い。

今後、xAIが機能制限や設計変更によって是正を図るのか、それとも規制当局との調整が難航するのかは現時点では見通せない。
ただ、生成AIを巡る議論が、技術的な進歩だけでなく社会的責任の観点からも本格化しつつあることは確かであり、この流れはWeb3やAIビジネス全体に中長期的な影響を与えると考えられる。

関連記事：

X日本公式、違法コンテンツに厳格対応　Grok悪用も削除・永久凍結、当局連携へ

あわせて読みたい

X日本公式、違法コンテンツに厳格対応　Grok悪用も永久凍結、当局連携へ 2026年1月6日、Xの日本公式アカウントは、違法コンテンツに対し投稿削除やアカウント永久凍結、当局との連携を行う方針を明言した。生成AI「Grok」を用いた違法コンテン...

生成AI「Grok」に批判噴出　画像編集機能が児童保護と規制論争を招く

あわせて読みたい

生成AI「Grok」に批判噴出　画像編集機能が児童保護と規制論争を招く 2025年1月2日、米xAIが開発する対話型生成AI「Grok」は、画像編集機能を通じて児童や女性を性的に加工できるとの苦情が相次いだことを受け、不具合の修正に取り組んでい...