2026年3月26日、ロイターはオランダ・アムステルダムの裁判所がxAIのAI「グロック」に対し、同意なき裸体化画像の生成・拡散を禁じる仮差し止め命令を出したと報じた。欧州におけるAI規制の新たな基準となる可能性がある。
裁判所、グロックの脱衣画像生成を差し止め
アムステルダムの裁判所は26日、xAIおよび同社の生成AI「グロック」に対し、加工によって成人や子どもを裸体化した画像や、性的ポーズを伴う画像の生成・配布を禁じる仮差し止め命令を下した。対象は「明示的な許可なしに部分的または完全に裸にされた性的画像」と定義され、違反した場合には1日あたり10万ユーロの罰金が科される。
さらに裁判所は、命令に違反している期間中はSNS「X」へのグロック搭載を停止するよう命じた。AI機能そのものだけでなく、配信プラットフォームとの連携まで制限対象とした点は異例であり、規制の実効性を担保する強い措置といえる。
背景には、生成AIによる「ディープフェイク（※）」の悪用に対する世界的な懸念がある。今回の訴訟では、オランダの非営利団体が法廷で実演を行い、グロックが依然として同意なしに裸体化画像を生成できることを示した。これを受け裁判所は、安全対策が不十分であると判断した。
xAI側は、悪意あるユーザーによる利用を完全に防ぐことは不可能であり、開発企業が一律に責任を負うべきではないと主張した。
一方で、同社は2026年1月に画像加工に関する安全対策を強化していたと説明しており、技術的対応と規制の間にあるギャップが浮き彫りとなった。
※ディープフェイク：AIを用いて実在の人物の顔や身体を別の画像や映像に合成する技術。本人の同意なく性的・虚偽コンテンツに利用されることが問題視されている。
規制強化の恩恵とリスク AI競争は新局面へ
今回の判断はユーザーにとって、無断で生成される性的コンテンツからの保護が強化される点が大きなメリットである。AI利用により悪意あるユーザーが本来の用途とは異なる生成活用を防ぐ対策となりうるだろう。企業にとっても、信頼性の高いサービス設計が競争優位の源泉となる構図が明確になる。
一方で、開発側には新たな負担が生じる。生成結果に対する責任を広範に問われることで、リスク回避を優先した設計が進み、イノベーションのスピードが鈍化する懸念も否定できない。特にスタートアップにとっては、規制対応コストの増加が参入障壁となる可能性がある。
また、プラットフォーム連携まで規制対象となる流れは、AI単体ではなくエコシステム全体での責任分担を求める方向性を示している。今後はEUのAI法（※）との整合性を踏まえつつ、各国で同様の判断が広がることも想定される。
結果として、AI開発は「性能競争」から「信頼競争」へと軸足を移す可能性がある。規制への適応力が企業価値を左右する時代に入りつつあると言える。
※EUのAI法：欧州連合が策定したAI規制法。リスクに応じてAIを分類し、高リスク用途には厳格な義務を課す包括的な法制度。
関連記事：
