米OpenAIはChatGPTで18歳未満の利用者に提供する武器関連情報の制限強化を発表した。
暴力的な意図が確認できない質問も対象とし、過去の襲撃事件に関する回答や危険な会話への対応も見直す。
未成年の武器情報を制限、危険な会話は自動終了へ
2026年10月30日に発表された新たな方針によると、未成年者が武器やセキュリティシステムについて尋ねた際、暴力行為に悪用されるおそれのある実用的な情報が制限される。
従来も武器の探索・入手を助ける回答は禁止していたが、一見無害な質問にも保護対象が広げられる。
全年齢向けにも規制が追加される。
過去の大規模襲撃事件について、使用された武器や装備、その入手経路、被害規模の詳細な比較などは抑制される一方、事件の背景や被害への理解、暴力防止に役立つ説明は引き続き認められる。
さらに、直近の会話で暴力の兆候が見られた場合、後の質問に対しても慎重に回答するよう改善される。
暴力や深刻な危害への固執が確認された場合、チャットを自動終了する機能も導入される予定だ。複数回の終了に至ったアカウントは一時停止される場合もあるという。
年齢推定（※）も継続的に更新され、18歳未満と推定される利用者は必要に応じて専用の保護環境へ移行する。
誤判定を受けた成人は、外部サービスのPersonaを通じて年齢を確認し、制限を解除できる。
同社は、2026年第3四半期には法執行機関へ200件超の通報を実施した。
2027年初頭には安全対策の運用実態をまとめた初の報告書が公開されており、その後は半年ごとの更新が予定されている。
※年齢推定：利用者の行動パターンなど複数の情報を分析し、18歳未満か成人かを推定する仕組み。
暴力防止に期待も、誤判定と説明責任が課題に
今回の変更は、AIが危険な情報を単純に拒否するだけでなく、利用者の年齢や会話の文脈に応じてリスクを判断する方向への転換と捉えられる。
特に未成年者への制限を先回りして適用することで、悪意を明示しない質問を通じた情報収集にも一定の歯止めが期待できる。
一方、武器や防犯設備の仕組みを学ぶ正当な目的まで妨げる可能性がある。
安全性を優先するほど回答の範囲は狭まり、教育や研究で必要な情報との線引きが難しくなるだろう。
会話履歴を踏まえた判断にも慎重さが求められそうだ。曖昧な発言を危険の兆候と誤認すれば、利用者が意図しないチャット終了やアカウント停止につながりかねない。
年齢推定についても、未成年の保護と成人の利用の自由をどう両立させるかが焦点となるだろう。
今後は、半年ごとの報告書が対策の実効性を測る重要な材料になると考えられる。
通報件数だけでなく、誤判定の発生状況や介入による効果をどこまで透明化できるかが、AIサービスへの信頼を左右しそうだ。
関連記事：
加銃乱射事件のChatGPT利用巡り、OpenAIが説明 同様事案は警察通報対象に
OpenAI Japanが未成年保護ブループリント発表 AI安全設計の指針提示
Meta、AIチャットで10代の自傷・自殺リスクを検知 保護者への通知を開始
