2026年10月2日、高市早苗首相は、Appleのティム・クック前CEOからの書簡を受け、デバイスに搭載される生成AIについて、自殺防止対策に資する機能の実装を含む適切な対策への協力を要請したことを公表した。Appleは生成AIを含め、支援窓口につなぐ取組を進めていると説明している。
高市首相、Appleに生成AIの自殺防止機能を要請
高市首相によると、クック前CEOからは、子供を含む利用者の安全対策や安全機能の強化に関するAppleの取組を紹介する手紙が届いていた。これに対し高市首相は、子供・若者の自殺が深刻な課題となっていることに加え、悩みを抱える子供たちが生成AIに相談するケースが増えていると伝えた。
さらに、海外では生成AIに相談した若者の自殺が社会問題となった事例も指摘し、デバイスに搭載される生成AIについて、自殺防止対策に資する機能の実装を含めた適切な対策への協力を求めた。生成AIが単なる情報提供の手段ではなく、深刻な悩みを抱える利用者と支援につなぐ接点になり得ることを踏まえた要請である。
Apple側からは、生成AIを含め、自殺の危険や深刻な悩みを抱える利用者を地域の支援窓口へつなぐ取組を進めているとの説明があった。また、子供向けの安全対策を含め、オンライン上で子供たちが安全に過ごせるよう、今後も機能強化に取り組む方針が示された。
加えて、クック前CEOのエグゼクティブチェアマン就任に伴い、新たにCEOとなったジョン・ターナス氏からも書簡が届いた。ターナスCEOは、オンラインの安全性確保と子供の自殺防止に向け、生成AIの展開においても子供の安全確保に全力で取り組み、日本政府と目標を共有して連携する考えを示している。
生成AIを支援への入口に 安全性との両立が課題
今回の要請は、生成AIを子供の安全を脅かす可能性がある技術として捉えるだけでなく、適切な支援へつなぐための入口として活用する方向性を示すものと言える。悩みを抱えた子供が生成AIに相談した際、必要に応じて地域の相談機関や支援者へのアクセスを促せれば、孤立した状態から支援につながるきっかけになる可能性がある。
一方、生成AIによる相談対応には慎重さも求められる。深刻な悩みや自殺の危険を抱える利用者に対して、AIがどのような情報を示し、どの段階で支援窓口への接続を促すのかは、安全性を左右する重要な要素となる。特に子供が利用する場合は、一般的なAIサービス以上に安全対策の設計が重要になるだろう。
今後、Appleが生成AIを含むサービスでどのような機能強化を進めるかは、デバイス上のAI活用における安全性の基準にも影響を与える可能性がある。政府とグローバル企業が目標を共有して取り組むことで、AIを適切な支援につなぐ仕組みが広がることが期待される。
ただし、生成AIだけで子供の自殺という深刻な問題を解決できるわけではない。AIを相談の入口として活用しながら、実際の支援機関や支援者につなげる仕組みをどう整備するかが、今後の重要な課題になると考えられる。
