2026年9月23日、米OpenAIのサム・アルトマンCEOが国連安全保障理事会で演説を行った。同氏は急速に進むAIの安全性確保に向け、人類の制御下に置くための標準化された共通基準の策定と国際協力を強く呼びかけた。
急変するリスクと進化の猛威 国連安保理で明かされた現状と安全基準の提案
アルトマン氏は演説にて、近年のモデル向上に伴いタイムラインの短縮や潜在的リスクの急速な高まりに直面している現状を指摘した。AIシステムが自らを改善していく「再帰的自己改善（※）」の段階へ迫る中、人間が介入できないレベルまで進化が暴走する危険性や、特定の企業・国家へ権力が集中する事態に強い懸念を示した。
この危機に対処すべく、同氏は民主的プロセスによる統治と国際的な協力枠組みを提言した。開発成果の測定、危険性の事前評価、監視の維持に関する国際共通基準を策定することや、事故報告の標準プロトコル構築、政府間での情報共有の必要性を強調した。開発企業が民主的プロセスに取って代わってはならず、国家間が結束して制御を維持すべきだと断じた。
※再帰的自己改善：AIが自らのコードや構造を自律的に改良し、人間を介さず連続して性能を高めていくプロセス。開発の自動化に伴い、進化の速度が急激に加速する危険性が懸念されている。
新産業革新への期待と過度の集中リスク 問われる国際調和と未来の展望
今回提示された論点は、AI技術が社会にもたらす利便性と背中合わせの脅威を明瞭に描き出している。AIには新薬開発や高度な数学問題の解明、教育向上など、多様な分野で人類の可能性を拡張する防御ツールになり得る潜在力がある。一方、リスク管理を誤れば、人間の制御能力を超越した意思決定が行われたり、一部の主体の世界観が強制されたりする深刻な副作用を引き起こす危険性も孕んでいる。
将来的には、今回の国連安保理での議論を足がかりとして、国境を越えたガバナンス構築が加速していく展開が予想される。自国優先の技術開発競争から、共通の安全基準に基づく協調体制へスムーズにシフトできるかが大きな課題となるだろう。
高度な技術力を誇る企業側が安全性を重視し、必要に応じた自主減速も辞さない態度を表明した意義は小さくない。国際社会と民主的プロセスの下で、いかに安全な発展を目指すかが今後の焦点になると考えられる。
関連記事：
