2026年1月12日、英放送通信庁はＸで生成AIを悪用した性的画像の拡散が相次いでいる問題を受け、オンライン安全法に基づく正式調査を開始した。
英放送通信庁、Ｘの生成ＡＩ悪用問題で正式調査
今回の調査対象となったのは、生成AIを使い、第三者の画像を本人の同意なく性的な内容に加工し、Ｘ上で投稿・共有する行為が相次いでいる点だ。英国では、同意のない性的画像の共有は明確に違法とされており、被害者の尊厳やプライバシーを侵害する深刻な問題と位置づけられている。
英放送通信庁は1月5日、Ｘに対し、英国の利用者を守るためにどのような対策を講じているのか説明を求めていた。期限とされた9日までに回答を得た上で、現行の対応では不十分な可能性があるとして、オンライン安全法に基づく正式調査に踏み切った。
同法に違反していると判断された場合、放送通信庁は是正措置や被害回復を求める権限を持つ。さらに、世界売上高の最大10％に相当する制裁金を科すことが可能で、違反が極めて重大と認定されれば、裁判所が英国市場からのサービス撤退を命じる余地も残されている。
Ｘでは、イーロン・マスク氏が率いるxAIの生成AI「Grok（グロック）」が利用されている。放送通信庁の担当者は、Grokが違法な性的画像の作成や共有に使われているとの報告があるとした上で、「深刻な懸念を抱いている」と述べた。
規制強化の先に何があるか ＡＩ活用の利点とリスク
今回の調査は、生成AIとSNSの利便性が高まる一方で、悪用リスクが社会問題化している現実を浮き彫りにした。
規制が強化されれば、被害者保護や違法コンテンツの抑止が進むというメリットが期待できる。プラットフォーム側にとっても、信頼性を高める契機になり得るだろう。
一方で、過度な規制は表現の自由や技術革新を阻害する懸念を伴う。
実際、米国のサラ・ロジャース国務次官は1月11日、英国の動きについて「ロシア式の禁止措置を検討している」とＸ上で不快感を示しており、規制の在り方を巡る国際的な温度差も顕在化している。
今後は、生成AIの設計段階での安全対策や、投稿後の監視・削除体制をどこまで高度化できるかが焦点となる。
単なる禁止ではなく、技術とルールの両面でバランスを取れるかが問われる局面だ。
生成AIを組み込むSNSにとって、利便性の追求と社会的責任の両立は避けて通れない課題である。今回の英国の調査は、その線引きを世界に先駆けて示す試金石になる可能性がある。
関連記事：
「Grok」画像編集が有料会員限定に 性的フェイクなど悪用対策で無料利用を制限
Grokの性的画像生成に規制包囲網 EUと英国が違法性を問題視
