国連人権高等弁務官のフォルカー・テュルク氏は、第63回人権理事会向けの報告で、高度AIが人類存亡に関わるリスクを招く可能性に懸念を表明した。各国とAI企業に対し、安全・セキュリティ対策を急ぐよう求めている。
高度AIに警鐘、国際的な安全基準を要求
2026年9月7日の演説において、テュルク氏は、AIなどのデジタル技術と人間の本質や主体性との関係が、今後数年の重要課題になると指摘した。
AIガバナンス（※）の必要性は広く認識されている一方、実際の行動は遅れており、その遅れが巨大テック企業やその所有者らのみにしか利益をもたらさないとの見方を示している。
また同氏は、業界内部者と同様の懸念を持っているという。高度AIが「人類に対して実存的リスクをもたらしうる」との見解だ。
試験環境から抜け出したり、停止を避けるため開発者を脅迫したりするようなAIを例に挙げ、そうした能力を持つAIは強力すぎるとの認識を示している。
そのうえで、安全とセキュリティを巡る強固な保証を整備するため「総力を挙げた取り組み」が必要だと主張した。近くAI企業へ書簡を送り、企業自身が管理できる範囲で直ちにリスク低減策を講じるよう促す方針である。
最低限でも、AIをホストする国や供給網に関わる国々が共通の「越えてはならない一線」で合意すべきだとし、独立した検証や業界内のより強い安全協力も求めた。
また同氏は、技術的安全性だけでなく、AIが与える人権への影響についても考慮すべきとの見解を示している。具体的には、雇用慣行や民主主義の基本原則、環境への影響などを検討対象に挙げている。
AIを拒否したり利用を避けたりする人々の存在にも触れ、政府と企業に社会の声を聞くよう求めた。
一方、国際面では、AIを巡るグローバル対話や独立国際科学パネルの設立など、一定の進展があると評価した。欧州委員会によるプラットフォームの説明責任強化や、韓国のAIガバナンスに関する取り組みも歓迎している。
※AIガバナンス：AIの開発・提供・利用に伴うリスクを管理し、透明性や説明責任、安全性、人権保護などを確保するためのルールや監督の仕組み。本記事では国際的な制度や企業の安全管理を含む意味で用いる。
国際ルール整備へ 実効性と技術発展の両立が焦点か
国際的な安全基準が整えば、企業や国ごとに異なるAI開発の安全水準を一定程度そろえ、重大なリスクを早期に発見しやすくなる可能性がある。独立検証を組み込めば、開発企業自身による評価だけに依存せず、外部からも安全性を確認できるかもしれない。
一方で、共通のレッドラインをどの能力や行動に設定するのかは難しい論点となるだろう。
規制を厳しくしすぎれば研究開発やサービス提供を制約する可能性がある一方、基準が曖昧なら実効性を持たず、国や企業によって対応に差が残ることも考えられる。
今後は、人類存亡に関わる極端なリスクだけでなく、雇用や民主主義、環境など現在生じ得る影響も含めて制度設計を行うことが重要になりそうだ。
AIの利用を止めるか進めるかという二者択一ではなく、安全性を検証しながら技術を活用できる仕組みを構築できるかが焦点と言える。
関連記事:
国連ITU、AIエージェントの信頼性・デジタルアイデンティティ標準化へ 国際作業部会を設置
国連AI専門家パネルが初報告書を公表 AI統治へ科学的評価基盤の整備を提言
李大統領、国連安保理でAIの国際ルール形成を提唱 協調の必要性訴え
