カリフォルニア州、AI大手に安全性開示を義務化　AI規制「SB53」に知事署名

2025年9月29日、米カリフォルニア州のニューサム知事は、AI開発大手に対し安全性リスクの評価と開示を義務付ける州法「SB53」に署名した。

ＡＩ企業にリスク評価と開示を義務付ける新法

カリフォルニア州で成立した「SB53」は、年間売上高5億ドル以上のAI企業を対象に、自社技術が引き起こす恐れのある壊滅的リスクについて評価し、計画を公表することを求める内容である。

リスクには、自社の最先端ＡＩ技術が人間による制御が効かなくなる事態や、生物兵器開発への悪用といった深刻なシナリオが含まれる。違反企業には1件あたり最大100万ドルの罰金が科される仕組みだ。

カリフォルニア州にはオープンAI、グーグル（アルファベット傘下）、メタ、エヌビディアなどのAI企業が集積しており、産業の中心地として規制で主導的役割を果たす狙いがあるとされる。

知事室は、連邦議会が包括的なAI規制を整備していない現状に触れ、新法がその空白を埋め、国が追随するモデルになる可能性を示した。実際、AI開発企業アンソロピックの共同創業者ジャック・クラーク氏は「公共の安全とイノベーションの均衡を図る強固な枠組み」と評価している。

一方で、シリコンバレーの大手VCであるアンドリーセン・ホロウィッツの政府渉外を統括するコリン・マッキューン氏は「州が連邦に代わって国内AI市場を統治する前例となり、スタートアップには対応する資源がない」と懸念を表明した。

安全確保の先駆けか　分断リスクも孕む規制先行

今回の新法は、AI技術が急速に社会へ浸透するなかで、安全性を法的に担保しようとする先駆的な動きとみられる。

特に、生物兵器や国家安全保障に関わるリスクを公に議論する仕組みは、透明性を高めるうえで一定の効果が期待される。こうした開示義務は、利用者や社会に安心感をもたらす可能性があり、企業の信頼性向上にも寄与する余地がある。

一方で、州単位での規制が先行することで、全米で統一性を欠いたルールが乱立するリスクも指摘されている。大手は対応可能でも、資源の限られるスタートアップにとっては過度な負担となるおそれがある。規制の厳格化が新興企業の参入障壁を高め、競争環境に影響を及ぼすとの見方もある。

今後の焦点は、連邦レベルで包括的なAI規制が整備されるかどうかに移りそうだ。州法の先行が国の制度設計を促す一方で、産業全体のイノベーションを阻害しないバランスをどのように取るかが重要となる。
AI安全性の確保と競争力維持という二律背反の課題をどう調整するかは、米国のみならず世界の産業界に影響を及ぼす可能性がある。

関連記事：

イタリア、包括的的AI規制法を承認 違法利用の罰則や子供の利用制限を明記

あわせて読みたい

イタリア、包括的的AI規制法を承認　違法利用の罰則や子供の利用制限を明記 2025年9月17日、イタリア議会は人工知能（AI）を規制する新法を承認した。欧州連合（EU）のAI規制法に準拠した域内初の立法であり、違法行為への罰則や未成年の利用制限...

国連、AI兵器規制に向け法的枠組み提案 米国は「統制拒否」で対立鮮明

あわせて読みたい

国連、AI兵器規制に向け法的枠組み提案　米国は「統制拒否」で対立鮮明 2025年9月24日、ニューヨークの国連本部で開かれた安全保障理事会の首脳級会合で、アントニオ・グテレス国連事務総長が自律型致死兵器システムを法的に規制する国際枠組...

日本初のAI法案が衆院通過 今国会で成立へ

あわせて読みたい

日本初のAI法案が衆院通過　今国会で成立へ 2025年4月24日、日本の衆院本会議で「人工知能関連技術の研究開発及び活用の推進に関する法律案（AI法案）」が可決された。この法案は、AI技術の開発促進とリスク管理の...