Grokで露出度の高い服装編集を制限　Xが実在人物の無断加工を禁止へ

Xを運営するxAI社は、AIアシスタント「Grok」の画像編集機能を更新し、実在する人物をビキニなど露出度の高い服装に編集できないよう制限したと発表した。
批判が相次いでいた問題への対応で、制限は全ユーザーに適用される。

xAI、Grokの露出度の高い服装編集を全面制限

2026年1月15日、xAI社は、Grokの画像生成・編集機能をアップデートし、実在する人物をビキニなどの露出度の高い服装に変更する編集を不可能にしたと発表した。
対象は無料ユーザーに限らず、有料契約者を含むすべての利用者となる。

X上でGrokを使った画像生成や編集は、現在のところ有料ユーザーのみが利用できる機能だが、今回の制限は契約形態を問わず一律で適用される。
xAIは、安全性確保を優先した措置だと説明している。

背景には、2025年末ごろからGrokを使い、実在する人物の服装を無断で脱がせ、ビキニ姿などに加工する行為が相次いだことがある。
被害者は女性が中心で、著名人や一般人に加え、未成年も含まれていた。

こうした状況を受け、日本のxAI社は1月6日、違法コンテンツが含まれる投稿に対し、削除やアカウントの永久凍結を含む対応を行うほか、行政や法執行機関と連携する方針を示した。

また、これらの画像は児童性的虐待コンテンツ(CSAM)に該当するとの批判を招き、複数の国が問題視している。
マレーシアとインドネシアはGrokへのアクセス遮断を実施し、米カリフォルニア州も1月14日、Xが同意のないディープフェイク画像の大量生成を助長しているとして調査開始を公表している。

安全性強化の一方、生成AI表現の線引きが課題に

今回の制限は、生成AIが引き起こす人権侵害や性的搾取への対策として一定の評価を得る可能性がある。
実在人物を無断で性的に加工する行為を技術的に封じることで、被害の拡大を抑止できるためだ。

一方で、表現の自由や正当な創作活動への影響を懸念する声が出る可能性もある。
実在人物を扱わないケースや報道・風刺などとの線引きを、どこまで精緻に設計できるかが今後の焦点となるだろう。
ユーザー側にとっては、創作やパロディといった利用との線引きが分かりにくくなるリスクも考えられる。

生成AIは利便性とリスクが表裏一体の技術であり、社会的許容範囲の設定が不可欠だ。
今後、プラットフォーム事業者に求められる責任は、さらに重くなると考えられる。
Grokの制限強化は、AI活用におけるルール形成が次の段階に入ったことを示す事例と言える。

X公式アカウント リリース

関連記事：

米カリフォルニア州がGrokを調査開始 Xで拡散する生成AI性的偽画像問題

あわせて読みたい

米カリフォルニア州がGrokを調査開始 Xで拡散する生成AI性的偽画像問題 2026年1月14日、米カリフォルニア州は、SNS「X」上で拡散が続く生成AI悪用の性的偽画像問題を巡り、xAIが開発する対話型AI「Grok」への調査開始を発表した。Grokの画像...