2025年10月13日、米カリフォルニア州のギャビン・ニューサム知事が、AIチャットボット（※）の安全対策を義務付ける法案に署名した。AI規制を抑制しないよう求める連邦政府の方針に反する動きである。
チャットボットに「安全義務」法制化 訴訟の道も開かれる全米初の試み
新法は、AIチャットボット運営者に対して利用者の安全を守る「重要な措置」を義務付け、違反によって被害が生じた場合には訴訟が可能となる内容である。
法案成立のきっかけとなったのは、AIとの会話後に自殺したとされる14歳の少年の事例だ。フロリダ州のメーガン・ガルシアさんは、「今日、カリフォルニア州は、コンパニオンチャットボットが子どもや弱い立場の人と自殺について話すことができないようにした」とコメントした。
ニューサム知事は署名した後に、「企業が必要な制限と責任を持たずに続けるのを黙って見過ごすわけにはいかない」と述べた。
一方、米国は州ごとのリスクを抑制する全国的な規制は存在せず、ホワイトハウスは各州が独自のAI規制をしないように求めている。
※AIチャットボット：人工知能によって人間と自然な会話を行うプログラム。テキストや音声を通じて情報提供や相談対応を行うが、感情的な影響や誤情報の拡散が課題とされている。
安全と革新のせめぎ合い AI規制の連鎖は広がるか
今回の法制化は、AIの倫理的ガードレールをどこまで設けるべきかという根本的な課題を改めて浮き彫りにした。AIチャットボットが感情的な領域に踏み込み、ユーザーの心理に影響を及ぼす可能性が高まる中、安全対策の義務化は一定の合理性を持つとの見方もある。
特に未成年や精神的に不安定な利用者を守る点では、社会的な意義を持つ取り組みといえるだろう。
一方で、AI業界には懸念も根強い。安全対策の法的義務が拡大すれば、チャットボットの開発スピードが鈍化し、革新の勢いを失う可能性も指摘されている。
AIモデルは継続的な学習と更新が前提であり、規制の枠組みが過剰になれば、企業の実証実験やユーザーテストが難しくなるとの見方もある。
ただし、倫理と安全のバランスを取ることは、AI産業の信頼を長期的に確立するうえで重要な要素となる。規制の枠を先に整えることで、技術者や企業が安心して開発を進められるとの意見もある。
カリフォルニア州の試みが他州に波及すれば、全米規模でAI法制化の動きが強まる可能性もある。
関連記事：
カリフォルニア州、AI大手に安全性開示を義務化 AI規制「SB53」に知事署名
イタリア、包括的的AI規制法を承認 違法利用の罰則や子供の利用制限を明記
米国でAIディープフェイク規制 性的偽動画の削除義務化
