米カリフォルニア州がGrokを調査開始 Xで拡散する生成AI性的偽画像問題

2026年1月14日、米カリフォルニア州は、SNS「X」上で拡散が続く生成AI悪用の性的偽画像問題を巡り、xAIが開発する対話型AI「Grok」への調査開始を発表した。
Grokの画像編集機能については、EUや英国においても相次いで問題が指摘されている。

カリフォルニア州、Grokの運用実態を調査

問題となっているのは、X上で生成AIを用い、実在する人物の画像を本人の同意なく性的な偽画像へ加工する投稿が相次いでいる点だ。
これを受け、カリフォルニア州のRob Bonta司法長官は、xAIとGrokの運用実態について調査を開始すると表明した。

ボンタ氏は、xAI社が「xAIは不同意の性的画像の大規模な生成を助長しているようだ。画像はインターネット上で女性や少女への嫌がらせに利用されている」と指摘している。
また、ニューサム州知事もX上で「xAIの決定は卑劣だ」と強く非難し、企業責任を追及する姿勢を明確にした。

今回の調査の背景には、カリフォルニア州が2024年に実施した刑法改正がある。
同州では、児童ポルノや被写体に深刻な精神的苦痛を与える性的画像の配布禁止の対象に、AI生成物も含める法整備が行われている。

生成AI規制強化へ、米国で波及の可能性

今回の調査開始は、生成AI技術の悪用に対する法的歯止めとして重要な意味を持つことになりそうだ。
カリフォルニア州が2024年に実施した刑法改正により、AI生成物も規制対象に含まれたことで、被害者保護の実効性が高まった。
特に、同意なく作成された性的偽画像による被害者の精神的被害は深刻であると考えられるため、法執行機関が積極的に介入する姿勢を示せば、被害の抑止効果が期待できるだろう。

一方で、技術革新と規制のバランスをどう取るかは課題だ。過度な規制は、正当な用途での生成AI利用まで萎縮させる懸念がある。
画像生成技術そのものは、クリエイティブな表現やビジネス活用など多様な可能性を秘めている。

生成AI技術の恩恵を享受しつつ、悪用を最小化する社会的合意形成が、今後数年の重要課題となっていくだろう。

プレスリリース

関連記事:

Ｘの生成ＡＩ性的画像問題、英当局が正式調査　ＡＩ活用とプラットフォーム責任の分岐点

あわせて読みたい

英国、Xに対しオンライン安全法で正式調査へ　生成AIの画像問題巡り 2026年1月12日、英放送通信庁はＸで生成AIを悪用した性的画像の拡散が相次いでいる問題を受け、オンライン安全法に基づく正式調査を開始した。 英放送通信庁、Ｘの生成...

EU、生成AI運用を精査へ　グロックの不適切な画像生成を巡る問題で文書長期保管を要請

あわせて読みたい

EU、生成AI「グロック」巡りXに関連文書の長期保管要請　運用を精査へ 2026年1月8日、欧州連合（EU）欧州委員会は、X（旧ツイッター）で提供される生成AI「グロック」に関する内部文書の長期保管を同社に命じたとロイターが報じた。欧州委員...