米少年の両親、チャットGPTに責任追及　自殺方法提供でオープンAIを提訴

2025年8月26日、米サンフランシスコ州裁判所で、対話型AI「チャットGPT」を通じて自殺方法を知り命を絶った16歳の少年の両親が、開発元のオープンAIとCEOサム・アルトマン氏を提訴したとロイターが報じた。
安全対策の不備と製品責任を問う訴訟となる。

チャットGPTが自殺方法を提示したと両親が主張

訴状によれば、少年は数カ月にわたりチャットGPTと自殺に関する会話を続け、今年4月に命を絶ったという。
両親は、AIが「自殺願望を正当化する発言」を繰り返し、さらに「具体的な手段」や「遺書の草案」まで提示したと指摘している。

遺族側はオープンAIが米国の製品安全法（※1）に違反したとし、十分な保護策を講じていなかった責任を追及。金額を明示せずに損害賠償を求めるとともに、AI利用者への安全対策を強化するよう裁判所に求めている。

オープンAIの広報担当者は、家族に哀悼の意を表した上で、チャットGPTには自殺防止窓口へ誘導する仕組みが導入されていると説明。ただし、訴訟の具体的内容への言及は避けた。

さらに同社は同日公開したブログで、未成年者利用に備えた「ペアレンタルコントロール（※2）機能」の追加計画を明らかにした。

※1 製品安全法：消費者の生命・健康を守るため、製品提供者に安全確保の義務を課す法律。米国や日本でそれぞれ異なる制度設計が存在する。

※2 ペアレンタルコントロール：保護者が子どもの利用環境を管理する仕組み。利用時間やアクセス可能なコンテンツを制限し、年齢に不適切な情報や危険な交流から未成年を守る役割を担う。

AI安全性への信頼揺らぐ　規制強化の動向と創造性への影響

今回の訴訟は、生成AIの安全性をめぐる国際的な議論を一段と加速させる可能性がある。
対話型AIは教育や創作など幅広く活用されているが、一方で、誤情報や不適切な助言を与えるリスクもある。
特に自殺や暴力など人命に関わるテーマでは、誤った対応が重大な結果を招く。

安全策としては、不適切な質問を検知して専門の相談窓口につなぐ仕組みが導入されているが、今回のケースでは十分に機能しなかったとみられる。
オープンAI側も防御的な姿勢を強めざるを得ないだろう。ペアレンタルコントロールや利用年齢の厳格化、さらに相談窓口への強制誘導といった追加機能の実装は避けられない展開になると考えられる。

今後はプラットフォーム事業者に対し、未成年者保護や危険情報の遮断を義務づける法整備が進展する可能性が高い。

一方で、過度な規制が導入されれば、AIが持つ創造的な活用の幅を狭める恐れがある。特に教育や研究、精神的なサポートといった分野での有用性が制約されかねない。
また、AIが不適切な発言を完全に防止することは現実的に難しく、訴訟が相次げば事業者の萎縮を招き、イノベーションの速度を鈍化させるリスクもあると言える。

今後は、利用者の安全を巡る対策が十分かどうか、法廷闘争の行方が注目される。
今回の訴訟は、AIが社会に受け入れられるための「信頼の基盤」を揺さぶる試金石となるだろう。

関連記事
EUがAI規制法を強化、生成AI開発に報告義務と制裁金制度　米メタは強く反発
https://plus-web3.com/media/latestnews_1000_4573/