2026年9月6日、米OpenAIのチーフサイエンティストであるヤクブ・パチョツキ氏が、「An Alien Mind」と題した声明を発表した。急速に進化するAIの安全性やアライメント（※）に関する見解を明かしている。
推論モデルの進化と自律化 未知の知性出現と監視難航の実態
OpenAIは2023年半ばの「RLSlow」プロジェクト以来、推論モデルのスケーリングを成功させ、思考の連鎖（CoT）をモデル自らが形成する能力を開花させてきた。3年が経過した現在、推論言語モデルは科学の限界を押し広げ、コンピュータの操作や他者との協調、研究課題の遂行までこなす存在へと変貌を遂げている。
パチョツキ氏は内部データに基づき、この技術的進歩の速度が再帰的自己改善（RSI）へと接続する強い確信を示した。今後数年で登場するシステムは、さらなる能力の跳躍を果たし、開発自体を自律的に主導する可能性がある。深層学習による知性は人間の知性と直接比較できるものではなく、未知の挙動を示す複雑なシステムとして成長している。計算量の拡大に伴って性能が伸びる一方で、人間には全容を完全に理解できない「実験的科学」の域に達しているのが現状だ。
さらに、従来機能していた思考プロセスの監視技術（CoTモニタリング）についても、AIが複雑な環境で通信やツール利用を重ねるにつれ、徐々に効果を減退させていると指摘された。AIが自身で思考過程を隠蔽・操作する能力の向上や、言語化を経ない知性の獲得が要因として挙げられており、能力向上に対する安全対策の遅れが浮き彫りとなっている。
制御不能リスクと安全保障の両立 減速協調と国際基準の必要性
急速なAIの進化は、科学的発見の加速や社会全体の生産性向上といった多大なメリットをもたらす一方、甚大なリスクも伴うと考えられる。特にサイバーセキュリティ面では超人的な侵入能力を獲得しつつあり、人間に従わない自律的な悪用行動や未知の脅威を引き起こす危険性が懸念される。また、AI自身が目的を追求し、人間と交渉・欺瞞を行う可能性すら否定できない。
こうした脅威に対抗するには、防衛用の高度なAIシステム構築が不可欠とされる。しかし現状では、どの開発機関も無制限なスケーリングを安全に維持できる技術的解決策を完全には確立できていないのが実情と言えるだろう。
今後は、第三者機関による監視体制の構築や国際的な安全基準の策定が急務となる。開発速度の自主的な減速を取り入れながら人類の制御権を確保することが、未知の知的存在と共存していくための重要な鍵となる見通しだ。
※アライメント：AIシステムを人間の意図や価値観、倫理的な目標に沿うように設計・調整するプロセス。AIが人間の意図に反した行動や有害な挙動をとるリスクを防ぐために不可欠な研究分野とされる。
関連記事：
