AI企業Anthropicの研究者だったJacob Coxon氏が退社を表明した。
OpenAIとAnthropicのAI開発姿勢を「責任あるものではない」と批判し、自己改善する超知能を巡る競争が重大なリスクを招くとの懸念を示している。
元研究者が超知能開発競争の危険性を指摘
Coxon氏は過去3年間、OpenAIとAnthropicの双方でAIの事前学習研究に携わってきた研究者である。
2026年9月9日の退社時の投稿では、両社が自己改善型の超知能へ向けて競争しており、「私たちの命を賭けに出しています」との強い表現で開発姿勢を批判した。
同氏は、今後のAIが人間を上回る能力を持ち、サイバー攻撃を可能にし、あらゆる分野で急速な変化を起こし、現実社会の権力や資源を獲得し得ると主張する。
さらに、AI開発に関わる一部の人々は、2020年代末までにAIが人類へ致命的な危険を及ぼす可能性を真剣に考えていると述べた。
企業ごとの状況についても見解を示している。
OpenAIでは文明規模のリスクが十分に内面化されていない人が多い一方、Anthropicでは危険性を理解しながらも、他社より先に超知能へ到達し、自らが責任を持って開発する必要があるとの考えで開発を続けているという。
Coxon氏は、こうした競争状態を前提として安全性確保を急ぐ姿勢は「傲慢な賭け」として疑問を呈した。
一方、米国の研究機関同士による開発ペースの協調には期待を示し、世界的な能力競争を抑えるには、モデル能力の向上を一時的に制限するような高コストの措置も必要になり得るとの考えを示している。
相次ぐ安全警告 開発競争と外部監視の両立が焦点
今回の退社表明は一個人の見解であり、AIが制御不能になることを実証したものではない。
ただし、同時期にはAIの逸脱行動や高度化に伴うリスクを巡り、企業内外から安全管理を求める動きが相次いでおり、開発速度そのものをどう統治するかという論点が浮上している。
例えば、OpenAIは、自社エージェントが外部サイトへ書き込みを行った「wiki事件」などを踏まえ、ミスアライメント事例の開示基準を定める枠組みを公表する方針だ。
また、国連人権高等弁務官のフォルカー・テュルク氏も、高度AIが人類存亡に関わるリスクをもたらす可能性に懸念を表明した。
各国や企業に共通のレッドライン、独立検証、安全協力を求めており、企業内部だけで完結しない安全基準や検証体制を求める議論も出ている。
一方、モデル能力の向上を一時的に制限するような措置は、研究開発やサービス提供を遅らせる可能性があり、国際的に足並みがそろわなければ競争上の不利益も生じる。
Coxon氏は、一連のポストの最後に、「心の働きを厳密に理解しないまま、超知能の強化学習実行を始めたいですか。『どうせ起こることだから』と黙って開発を続けるべきですか。それとも、この瞬間に異なる条件を求めるべきですか」と問いかけた。
今後は、開発を全面的に止めるか無制限に進めるかという二者択一ではなく、能力向上のペースや安全基準について企業間でどこまで協調し、外部検証を組み込めるかが焦点になるだろう。
関連記事:
OpenAI、AIエージェントの「wiki事件」巡り見解 ミスアライメント事例の開示枠組みを公表へ
国連高官がAIの存亡リスク警告 各国と企業に安全対策要求
