ディープラーニングの旗手が逆行　ベンジオ氏、AIの安全性を軸に非営利組織「LawZero」設立

2025年6月3日、カナダにてAI研究の第一人者ヨシュア・ベンジオ氏が非営利組織「LawZero」の設立を発表した。AIの制御と安全性を中心に据える構想は、商業主導型の開発競争とは一線を画す。

エージェントAIに警鐘　Bengio氏が提唱する「非エージェント型AI」

生成AIの基盤技術であるディープラーニングの研究の先駆者であり、2018年に「チューリング賞」を受賞したベンジオ氏が、自律エージェント型AIとは異なる道を選択した。新たに設立された非営利組織「LawZero」は、AIの安全設計と抑制機能に焦点を当てた研究を推進する団体である。

第一弾のプロジェクトとなる「Scientist AI」は、従来のAIエージェントとは異なり、自ら行動を起こさず観察と説明に特化する設計が特徴だ。目的は人間の意図に従ってタスクを遂行することではなく、理論構築を通じてAIの過信リスクを抑えることにある。

ベンジオ氏はかねてより、AIの高度化がもたらす倫理的・社会的リスクに警鐘を鳴らしてきた。今回の取り組みは、そうした懸念に対する具体的な行動の一環である。
LawZeroは営利目的のAI開発が安全性を軽視する傾向にあるとして、商業圧力から独立した形での技術探求を目指す。

プレスリリースでは、近年のAIモデルが示す欺瞞（ぎまん）性や自己目的化の傾向を危険視する言及もあった。OpenAIやAnthropicなどの事例を引き合いに出し、安全設計を後回しにした急速な展開の問題点を浮き彫りにしている。

非営利の独立機関が問うAIの未来　安全志向に潜む可能性と限界

LawZeroの構想は、AI開発の主流である商用エージェント路線に対する対抗軸として注目される。ベンジオ氏は、AIを「利益最大化」から「公益実現」へと転換すべきだと訴えており、Scientist AIはその象徴的な試みといえる。

このアプローチには明確なメリットがある。まず、安全性を最優先に設計されることで、誤作動やハルシネーション（※）、エージェント暴走といったリスクを低減できる。また、学術機関や政策立案者にとって、商業利害から距離を置いた研究成果は重要な判断材料となる可能性がある。

一方で、技術革新と市場のスピードが加速するなか、非営利組織がどこまでインパクトを与えられるかは未知数だ。OpenAIも当初は非営利団体だったが、成長とともに商業的要請に対応せざるを得なくなった。LawZeroが同様の圧力をどうかわすかが、今後の鍵となる。

また、Scientist AIのような「非エージェント型」モデルは、既存のAIアプリケーションの文脈では採用が難しいという課題もある。実用性と安全性の両立をどう図るか、社会全体での議論と合意形成が不可欠である。

※ハルシネーション：AIが事実に基づかない情報を生成する現象。特にチャットボットなどで誤解を招く出力につながることがある。