問われるAI規制の在り方　英国で世界初の児童虐待コンテンツを生成するAIツールを取り締まる法律が制定へ

テクノロジーの進化に伴い、AIの利用は社会に大きな便益をもたらしている一方、その悪用による新たな脅威が浮上している。
こうした状況下で、英国政府は世界に先駆けて、AIツールを用いた児童性的虐待記録物（CSAM）の生成を取り締まる法律の制定に着手していることがわかった。

参考 : ロイター通信

https://www.reuters.com/technology/artificial-intelligence/uk-makes-use-ai-tools-create-child-abuse-material-crime-2025-02-01

この取り組みは、AI技術の適切な規制の在り方を考える上で重要な先例となる可能性を持っている。

世界初のAI規制法

Internet Watch Foundation（IWF）の報告によると、オンラインで発見されるAI生成のCSAMは1年で4倍に増加している。この深刻な状況に対応するため、英国政府はCSAMを作成するために最適化されたAIモデルの所有と配布を禁止する新法の制定を決定した。さらに、AIを使用してCSAMを作成する方法を指示するマニュアルの所有も違法となる。

IWFの暫定CEOであるデレク・レイヒル氏は、「過去に性的虐待を受けた子どもたちは、AIモデルをトレーニングするためにCSAMが商品化されて、何度も被害者になっている」と指摘している。
この法律の制定により、オフラインでの無制限なCSAM生成という法の抜け穴が塞がれることになり、より厳密な規制が可能になる。子どもの安全がより強固に確保されるはずだ。

規制による懸念点

一方で、AI規制の強化には慎重な検討が必要である。
今回の法律では、CSAMの生成に関連するAIモデルの所有や配布を特定し取り締まる必要があるが、この過程でAIモデルやコンテンツの監視体制の強化が求められている。これは英国の「オンライン安全法案」を巡る議論でも大きな懸念となっており、プライバシーの保護と技術革新の阻害という重要な課題が提起されている。
特にWhatsAppやSignalなどの暗号化チャットアプリの運営元は、違法コンテンツの監視名目で個人間の暗号化通信の解読が要求される可能性を危惧している。

電子フロンティア財団は「規制当局が暗号化されたサービスにバックドアを作ることを要求するなら、暗号化されたメッセージングサービスが英国から撤退する可能性がある」と警告している。
このような規制は、CSAMの防止という正当な目的を持ちながらも、正当なAI開発や安全な通信手段の提供にも影響を及ぼす可能性があるのだ。

まとめ

AI規制は、社会の安全性確保とプライバシー保護、そして技術革新の促進という様々な問題を考慮する必要がある。

英国の新法は、具体的な悪用事例に対する世界初の規制として、他の国のAI規制に影響を与える可能性が大きい。
今後は、技術の進化に対応した法規制の柔軟な更新、プライバシー保護と安全性確保のバランスに注目が必要だ。
技術開発に携わる企業や専門家は、この規制を単なる制約としてではなく、持続可能なAI発展のためのガイドラインとして捉え、積極的な対話と協力を進めていくことが求められている。