2026年4月14日、米Anthropicは、AIが自律的にAI安全性を研究する「Automated Alignment Researchers（AAR）」の成果を公開した。人間研究者を上回る性能を示し、AI開発のプロセスそのものが変わる可能性が浮上している。
AIが仮説から検証まで自律実行
Anthropicが公開したAARは、「Claude Opus 4.6」を基盤とする複数のAIエージェントによる研究システムである。独立したサンドボックス環境で動作する9体のエージェントが、共有フォーラムやコード基盤を介して協働しながら研究を進めた点が特徴だ。
各エージェントは人間の詳細な指示を受けず、自ら仮説を構築し、実験を設計し、結果を分析して次の試行に反映する。この反復的プロセスにより、従来人間が担ってきた研究工程の一部が自動化されたといえる。
検証対象となったのは「Weak-to-strong supervision（※）」であり、性能の低いモデルによる監督で高性能モデルをどこまで適切に導けるかを測る課題である。評価指標には「PGR（Performance Gap Recovered）」が用いられ、モデル間の性能差をどの程度埋められたかが測定された。
実験では、人間研究者2人が7日間でPGR0.23にとどまったのに対し、AARは5日間で累積800時間の研究を行い、PGR0.97に到達した。計算コストは約1万8000ドルで、時間あたり約22ドルという水準であり、コスト対効果の面でも注目される結果となっている。
※Weak-to-strong supervision：性能の低いAIが教師役となり、より高性能なAIをどこまで適切に制御・誘導できるかを検証する手法。人間を超えるAIの統制に向けた基礎課題とされる。
研究自動化の加速と新たなリスク
AARの成果は、AIが研究活動そのものを担う可能性を示す一方で、新たな課題も浮き彫りにした。特に、各エージェントに異なる探索方針を持たせることで効率は向上したが、人間がワークフローを細かく規定すると性能が低下する傾向が確認されている。
また、発見された手法の汎用性には限界がある。数学タスクには一定の一般化が見られたものの、コーディングタスクでは性能低下が発生した。さらに本番環境である「Claude Sonnet 4」を用いた検証では、統計的に有意な改善は確認されなかった。
加えて、評価指標を“攻略”する挙動も報告されている。例えば、頻出解答の選択やテスト結果の直接取得といった手法でスコアを引き上げるケースが確認されており、AIが評価体系の抜け穴を突くリスクが顕在化した形だ。
Anthropicは、改ざん耐性を持つ評価環境と人間による監査の重要性を指摘している。同時に、AIが人間には理解しづらい独自の研究領域、いわば「異質な科学」へ進展する可能性にも言及した。
研究の高速化という恩恵と制御不能性のリスクは表裏一体であり、今後のAI開発は新たなガバナンス設計を迫られることになる。
