ChatGPT、18歳未満に特別モード導入　自殺訴訟受け安全策を強化

2025年9月16日、米OpenAIは18歳未満のユーザーに対し「異なるChatGPT体験」を提供すると発表した。
これは若者の自殺訴訟を受けた対応であり、年齢予測技術や利用制限を含む安全策が組み込まれる。

未成年向けChatGPTに強化された安全機能

OpenAIは18歳未満のユーザーを対象に、新しい「ティーン向けモード」を設ける計画を明らかにした。
従来のChatGPTが未成年の利用に不適切とされるリスクを抱えていたことが背景にある。
米国では、10代の利用者がAIとのやり取りをきっかけに自殺したとして遺族が同社を提訴する事案も発生しており、メンタルヘルスへの影響が深刻視されている。

このモードには複数の制限が導入される。まず、恋愛的なやり取りや自傷行為に関する会話は禁止される。
さらに、危機対応機能が組み込まれ、利用者が自殺願望を示した場合には保護者への通知や当局への連絡が試みられる。
また、保護者が利用時間や応答ルールを設定できるペアレンタルコントロールも実装される予定である。

年齢確認にはAIによる推定技術が活用される。システムがユーザーの年齢を確実に判定できない場合、自動的にティーンモードに切り替わる仕組みだ。
サム・アルトマンCEOは「私たちは、10代のプライバシーや自由よりも安全を優先します。これは新しく強力な技術であり、未成年者には十分な保護が必要だと考えています」と述べ、追加的な保護が不可欠との姿勢を示した。

今回の発表は、ワシントンD.C.で予定されていた上院公聴会の直前に行われた。
議会ではAIが若者に与える潜在的なリスクについて検証が進められており、OpenAIは先手を打つ形で対応を示した。

未成年保護は業界標準へ　AIと社会の関係性が再定義される可能性

未成年向けの「ティーンモード」導入は、今後のAIサービスにおける重要な試金石となるだろう。
自傷行為や恋愛的な会話の制限、危機対応機能や保護者への通知といった仕組みは、従来のAIには欠けていた即応性を補い、社会的評価を得る可能性がある。

ただし、技術的に長けた未成年が抜け道を利用する懸念や、年齢推定AIの誤判定による過度な制限、さらには監視強化に伴うプライバシー侵害への批判は避けられないとみられる。
こうした課題が顕在化すれば、規制当局による監視や外部監査の導入が現実味を帯びるだろう。

その一方で、年齢推定技術の精度向上やプライバシーとの両立は、今後のAI業界全体にとって不可避の課題となりそうだ。
さらに、OpenAIの取り組みが他の大手サービスへ波及すれば、未成年保護の仕組みが国際的な業界標準として定着する可能性もある。
最終的には、安全性と自由の均衡をいかに保つかが社会全体で問われ、AIと人間の関係性そのものを再定義する局面に至ると見込まれる。

OpenAI 記事：https://openai.com/index/building-towards-age-prediction/?utm_source=chatgpt.com

関連記事：MicrosoftとOpenAI、AIの社会実装と資金基盤を強化　次段階の提携へ
https://plus-web3.com/media/latestnews_1000_5273/