「Grok」画像編集が有料会員限定に制限　相次ぐ悪用への対策か

2026年1月9日、米X（旧ツイッター）は、同社に搭載する生成AI「Grok」の画像編集機能を有料会員限定に切り替えた。
実在人物の写真を無断で性的に加工する被害が相次いだことへの対応と見られる。

Grokの画像編集機能、無料利用を停止

問題となっているのは、X上の画像を直接加工できる「Grok」の画像編集機能だ。
2024年12月下旬に追加されて以降、投稿された写真を本人の同意なく露出度の高い姿に改変する事例が拡散し、社会問題化していた。

日本時間1月9日午後時点では、無料ユーザーが返信欄で画像加工を指示すると「画像の生成と編集は現在、有料会員限定です」と表示され、処理が実行されない仕様に変更されている。

Grokは、米AI企業xAIが開発し、Xに統合された対話型生成AIである。
xAIは過去に、児童や女性を対象とした不適切な生成が行われた点を認め、修正作業を進めていると説明している。

海外では、インド当局が同意なき性的画像の削除対応をXに求めたほか、フランス検察も児童ポルノ関連で調査対象に加えたとされる。
無料利用の停止は、こうした国際的な批判と法的リスクを踏まえた暫定措置と見られる。

機能制限は信頼回復につながるか

有料会員限定への切り替えは、悪用のハードルを上げる効果が期待される。

一方、有料会員限定では、根本的な解決策とは言い切れない。
料金を支払えば同様の行為が可能な構造が残る以上、AIモデルそのものに手を加えることは必要と言えるだろう。

画像編集AIはクリエイティブ制作や情報発信の効率化に大きく寄与する技術だ。過度な制限は、正当な利用者の利便性を損なう恐れもある。
表現の自由と被害防止をどう両立させるかが、今後の焦点となるだろう。

各国でAI規制の議論が進む中、今回の対応は、生成AIが社会インフラ化する過程で避けて通れない調整局面を象徴していると言える。　

関連記事：

生成AI「Grok」に批判噴出　画像編集機能が児童保護と規制論争を招く

あわせて読みたい

生成AI「Grok」に批判噴出　画像編集機能が児童保護と規制論争を招く 2025年1月2日、米xAIが開発する対話型生成AI「Grok」は、画像編集機能を通じて児童や女性を性的に加工できるとの苦情が相次いだことを受け、不具合の修正に取り組んでい...