2025年9月29日、米カリフォルニア州のニューサム知事は、AI開発大手に対し安全性リスクの評価と開示を義務付ける州法「SB53」に署名した。
ＡＩ企業にリスク評価と開示を義務付ける新法
カリフォルニア州で成立した「SB53」は、年間売上高5億ドル以上のAI企業を対象に、自社技術が引き起こす恐れのある壊滅的リスクについて評価し、計画を公表することを求める内容である。
リスクには、自社の最先端ＡＩ技術が人間による制御が効かなくなる事態や、生物兵器開発への悪用といった深刻なシナリオが含まれる。違反企業には1件あたり最大100万ドルの罰金が科される仕組みだ。
カリフォルニア州にはオープンAI、グーグル（アルファベット傘下）、メタ、エヌビディアなどのAI企業が集積しており、産業の中心地として規制で主導的役割を果たす狙いがあるとされる。
知事室は、連邦議会が包括的なAI規制を整備していない現状に触れ、新法がその空白を埋め、国が追随するモデルになる可能性を示した。実際、AI開発企業アンソロピックの共同創業者ジャック・クラーク氏は「公共の安全とイノベーションの均衡を図る強固な枠組み」と評価している。
一方で、シリコンバレーの大手VCであるアンドリーセン・ホロウィッツの政府渉外を統括するコリン・マッキューン氏は「州が連邦に代わって国内AI市場を統治する前例となり、スタートアップには対応する資源がない」と懸念を表明した。
安全確保の先駆けか 分断リスクも孕む規制先行
今回の新法は、AI技術が急速に社会へ浸透するなかで、安全性を法的に担保しようとする先駆的な動きとみられる。
特に、生物兵器や国家安全保障に関わるリスクを公に議論する仕組みは、透明性を高めるうえで一定の効果が期待される。こうした開示義務は、利用者や社会に安心感をもたらす可能性があり、企業の信頼性向上にも寄与する余地がある。
一方で、州単位での規制が先行することで、全米で統一性を欠いたルールが乱立するリスクも指摘されている。大手は対応可能でも、資源の限られるスタートアップにとっては過度な負担となるおそれがある。規制の厳格化が新興企業の参入障壁を高め、競争環境に影響を及ぼすとの見方もある。
今後の焦点は、連邦レベルで包括的なAI規制が整備されるかどうかに移りそうだ。州法の先行が国の制度設計を促す一方で、産業全体のイノベーションを阻害しないバランスをどのように取るかが重要となる。
AI安全性の確保と競争力維持という二律背反の課題をどう調整するかは、米国のみならず世界の産業界に影響を及ぼす可能性がある。
関連記事：
イタリア、包括的的AI規制法を承認 違法利用の罰則や子供の利用制限を明記
国連、AI兵器規制に向け法的枠組み提案 米国は「統制拒否」で対立鮮明
日本初のAI法案が衆院通過 今国会で成立へ
