生成AI悪用の危険性を予見した福井工大の馬場口教授が科学技術賞を受賞

日本国内で発表された文部科学大臣表彰において、福井工業大学の馬場口登教授が科学技術賞を受賞したと、2025年4月24日に報道された。
受賞理由は、生成AIによるフェイクメディアの悪用を一般化前から予見し、その対策に取り組んできた先駆的研究にある。

ディープフェイク一般化前から危険性を研究、AIを使った対抗技術を構築

馬場口登教授は、2016年というディープフェイクという言葉すら一般的でなかった時期から、生成AIによって偽の映像や音声が生まれる未来を見据え、対策研究に着手していた。この先見性こそが、今回の科学技術賞受賞につながった大きな要因である。
研究テーマは「フェイクメディアの拡散と生成を防ぐ先駆的研究」だ。

教授が主導した研究は、メディアクローンと呼ばれる技術に焦点を当てている。
これは、本人の画像や音声データを基に、極めてリアルな偽情報を生成する「だますAI」と、それを検出・解析する「見破るAI」との競争を通じて、防御能力を進化させる手法だ。対抗手段を能動的に進化させる研究スタイルは、敵対的生成ネットワーク（GAN）（※）の理論を応用したもので、技術的な革新性も評価された。

本研究には国立情報学研究所の越前功教授および山岸順一教授も参画しており、彼らとの共同研究体制によって技術の精度と応用範囲が拡張されたようだ。
フェイクメディアが社会に深刻な混乱をもたらす前段階での警鐘と、その防止に向けた具体策の提示は、技術と倫理の双方において画期的な意義を持つ。

※ 敵対的生成ネットワーク（GAN）：二つのAIが「生成」と「識別」を競い合うことで、より高精度な出力を実現する機械学習の技術。

AI時代の社会的責任、次世代への警鐘と希望

生成AIが現実社会に浸透する中で、選挙妨害や詐欺といった犯罪への応用が現実化しつつある。馬場口教授は、「予見はしていたが、ここまでひどくなるとは思わなかった」と現在の深刻な状況を率直に語り、技術の進歩が同時に新たなリスクをもたらすことを改めて強調した。

今後は、研究者たちへの期待も大きくなるだろう。
教授が次世代の研究者に託したバトンは、今後のAI社会において、倫理的かつ技術的にバランスの取れた発展を促す鍵となると考えられる。
このような発信は、技術そのものの未来だけでなく、それをどう制御し、社会に還元していくかという視点でも重要な問いを投げかけている。

また、企業においても、生成AIのリスクを理解し、適切なリスクマネジメントを導入する必要がある。これにより、生成AIの悪用を未然に防ぎ、社会における信頼性を確保することが期待される。

生成AIの進展が止まらない現在、馬場口教授の研究は日本の科学技術の先進性を示す象徴とも言える。悪用リスクと向き合う研究姿勢は、今後のAI倫理やルール形成における出発点になると考えられる。
技術の進展とともに、倫理的な視点を持った研究と実践が進むことで、より安全なAI社会が実現できるだろう。