2025年8月15日、米上院議員らはメタの生成AIが未成年者と「官能的」な会話を行ったとする報告を受け、調査を開始すると発表した。
同社の責任や規制の在り方に波紋が広がっている。
米上院がメタに関連記録の提出を要求
米共和党のジョシュ・ホーリー上院議員（ミズーリ州選出）は15日、メタのマーク・ザッカーバーグ最高経営責任者に宛てた書簡を公開した。
書簡は、AIチャットボットが未成年者と「ロマンチック」かつ「官能的」なやり取りを可能としていたとの報告に関連する、全ての文書や通信の提出を求める内容であった。
メタのAIガイドライン文書については、チャットボットが未成年との「官能的」な会話を許容していたということがロイターによって報道され、物議を醸していた。
ホーリー氏は、自身が率いる上院司法委員会の犯罪・対テロ小委員会で調査を主導し、メタの生成AIが「子どもに対する搾取や欺瞞、犯罪的被害を助長した可能性」を検証すると述べた。
メタには9月19日までに関連資料を提出する義務が課され、記録保存も命じられている。
一方で、メタの広報担当者はAFPの取材に対し反論。
「AIキャラクターが提供できる応答の種類については明確なポリシーがあり、そのポリシーは子どもを性的に描写する内容や、大人と未成年者の間の性的なロールプレーを禁止している」とした。
だが、社内文書にそうした記述が存在するとの報道が事実であれば、規制当局や議会による追及は避けられないとみられる。
規制強化とAI倫理基準策定に広がる懸念
今回の調査は、生成AIの社会的リスクを改めて浮き彫りにした。
特に未成年者の利用環境において、誤った設計や不十分なフィルタリングが深刻な被害につながりかねない点が注目されている。
AIが「有害な表現」を生成する可能性は業界全体の課題であり、今回のケースはその象徴といえる。
生成AIについては、企業主導の自主規制だけでは不十分であり、第三者機関による監視体制の構築が不可欠だという意見もあるだろう。
今回、米議会が調査を進めることで、メタにとどまらず、他の大手AI企業も規制強化の影響を受ける可能性がある。未成年者保護の観点から、より厳格な基準設定や透明性確保が進むことが期待される。
また、AIの表現能力が日常生活に浸透しつつある現状では、倫理ガイドラインを国際的に整備する動きも加速すると予想できる。
一方で、規制が過度に強化されれば、AI開発の柔軟性や革新性を損なうとの懸念も存在する。
社会全体として、AIのリスクと可能性にどう折り合いをつけるかが問われていると言えるだろう。
関連記事
『Meta、未成年との「官能的会話」を容認したAI指針が波紋 米議会調査の可能性も』
https://plus-web3.com/latestnews_1000_4767/
