AI悪用対策で事業者名公表へ　政府、新法で推進と規制の両立目指す

日本政府は、AI技術の開発促進と安全確保を両立させるため、新法の整備を進めている。
AIの悪用による人権侵害やサイバー攻撃への対応として、悪質な行為が確認された事業者名を公表する方針だ。罰則は設けないものの、透明性の確保を図ることを目的としている。
閣議決定は2025年2月下旬の予定だ。

新法の目的と背景

AI技術の急速な発展に伴い、その悪用によるリスクが増大している。

政府は、これまで企業の自主性を尊重してリスク対応を行ってきたが、AIの悪用による人権侵害や社会的混乱を防ぐため、法規制の必要性を認識した。
生成AIが引き起こすリスクへの対応が求められている状況だ。

この新法（仮称）は、AI関連技術の不正利用や不適切な研究開発が国民の権利を侵害した場合、国が分析し対策を検討することを規定している。これにより、AIの開発促進と安全確保の両立を目指す。

具体的な規定内容と対象リスク

新法では、悪質な行為が確認された場合、国が事業者名を公表することが規定されている。ただし、罰則は設けず、企業の自主性を尊重しつつ透明性を確保する方針だ。

対象となるリスクとして、「人権侵害」「サイバー攻撃」「ディープフェイク（※1）による偽情報の拡散」などが挙げられる。
たとえば、2024年1月の能登半島地震に関連して、SNS上で虚偽の投稿が拡散した事例や、著名人を装った「なりすまし詐欺」でAI生成の偽画像が使用されたケースなどが該当すると思われる。

現在、中国のDeepSeek（※2）台頭により、情報漏洩や認知戦への悪用の懸念が指摘されている。これらの事例を踏まえ、政府は企業の自主性尊重から法規制への転換を図っている。

※1 ディープフェイク：AI技術を用いて、実在する人物の顔や声を合成し、偽の映像や音声を作成する手法。

※2 DeepSeek：中国のAI技術開発企業で、情報漏洩や認知戦への悪用の懸念が指摘されている。

参考：「EU、ディープシークに厳しい目　中国へのデータ流出懸念で規制拡大」

あわせて読みたい

EU、ディープシークに厳しい目　中国へのデータ流出懸念で規制拡大 欧州でディープシーク（DeepSeek）の規制が拡大している。イタリア当局が同社のAIアプリの使用を制限し、他のEU加盟国も調査を開始した。消費者団体は個人情報保護の観...

今後の展望

今後、政府は新法の運用方法について具体的なガイドラインを策定する必要がある。事業者名の公表基準を明確にし、不当な風評被害を防ぐ仕組みを整えることが不可欠だ。

たとえば、問題が発生した企業に一定の改善期間を設け、その対応を踏まえた上で公表の是非を判断する仕組みなどが求められるだろう。

また、罰則の有無に関しても議論が進む可能性がある。

現段階では罰則を設けていないが、悪質な事例が続けば、企業に対するより厳格な措置が導入されることも考えられる。サイバー攻撃やディープフェイクが国際的な問題として取り上げられる中、日本の規制が甘いと見なされれば、国際社会からの圧力によって法改正を余儀なくされることもあるかもしれない。

さらに、技術的な側面からの対策も進むと考えられる。
たとえば、ディープフェイクの自動検出技術の開発や、AIによる偽情報の拡散を防ぐための認証システムの導入などが挙げられる。

こうした技術的進展と法規制のバランスをどのように取るかが、今後の課題となるだろう。