2025年4月7日、米連邦政府のAIディープフェイク規制法「Take It Down Act」に基づく初の有罪判決が下された。米司法省の発表によるもので、同意なき性的画像生成を巡る初の司法判断として、AI悪用対策の実効性を示す転換点となる。
初適用で有罪、AI悪用の実態
今回有罪を認めたのは、オハイオ州の37歳の被告である。2025年6月に逮捕され、サイバーストーキングや児童性的虐待物の製造などの罪で起訴されていたが、4月、連邦地裁で全4件の罪状を認めた。量刑は今後の公判で決定される見通しだ。
米司法省によると、被告は24のAIプラットフォームを利用し、100以上のAIモデルにアクセスしていた。実在人物やアニメキャラクターをもとに700枚以上の性的画像を生成し、その中には近隣の少年の顔を用いたものも含まれていたという。さらに端末からは約2400枚の児童性的虐待画像が発見されている。
本件は、2025年に成立したTake It Down Act（※）の初適用事例となる。同法は、AIによる同意なき性的ディープフェイクの生成・共有を犯罪と定義し、MetaやGoogleなどのプラットフォームに削除対応の仕組み構築を義務付けた初の連邦法である。連邦検察は声明で、こうした行為を「容認しない」と強調し、今後も厳格に責任追及を行う姿勢を示した。
また、同法を支持する団体にはすでに7000件以上の通報が寄せられており、AIを用いた性的コンテンツの不正利用が広範に存在している実態も浮き彫りとなっている。今回の判決は、こうした問題に対する初の明確な司法判断として位置付けられる。
※Take It Down Act：AIで生成された同意なき性的画像や動画の作成・共有を犯罪とし、プラットフォームに削除対応を義務付ける米国の連邦法。ディープフェイク対策に特化した初の包括的規制とされる。
抑止と統制の進展、表現と革新の境界
今回の判決は、AI規制が実際に機能し始めたことを示す重要なシグナルといえる。被害者保護の観点では一定の前進と捉えられ、特に児童や一般個人を対象としたディープフェイク被害の抑止効果が期待される。法的責任が明確化されたことで、悪用への心理的ハードルは高まる可能性がある。
一方で、規制の強化は新たな課題も伴う。プラットフォームには迅速な削除対応や監視体制の強化が求められ、運用コストが増大する可能性は高い。加えて、どこまでを違法とみなすかの線引きは難しく、過剰な削除や誤判定が表現の自由や創作活動を萎縮させるリスクもある。
今後は、法執行の積み重ねを通じた運用基準の明確化が重要になると考えられる。AIの進化に対して規制がどこまで追随できるか、また企業や開発者による自主的なガバナンスがどこまで機能するかが焦点となる可能性がある。利活用と統制の均衡をどう設計するかが、AI社会の持続性を左右する鍵となりそうだ。
関連記事：
