三菱電機、AIの誤動作リスクを低減する新技術を開発　信頼性向上を目指す

2025年2月26日、三菱電機はAIの動作を短時間で漏れなく検証する新技術を開発したと発表した。

この技術は、AIの誤動作リスクを低減し、信頼性を向上させることを目的としている。

新技術の特徴と開発の背景

従来、AIの性能評価は限られたテストデータに依存しており、未検証データでの誤動作リスクを完全には排除できなかった。

特に、大規模なAIモデルでは、網羅検証に膨大な時間がかかり、誤動作リスクの優先度を判断することが難しかった。

三菱電機が開発した新技術は、数値データの予測などに広く用いられる決定木アンサンブルモデルを対象とし、新たなアルゴリズムにより従来の手法と比較して数十から数百倍の速度で検証を行うことが可能である。
これにより、AIが期待通りに動作しているかを厳密に検証できる。

さらに、ブラウザーベースのGUIを使用した対話的な検証ツールを開発。ユーザーは直感的に操作でき、学習済みのAIモデルを読み込み、期待する動作を設定することで、ワンクリックで検証を実行できる。

検証結果は、合否の割合や誤動作の発生条件ごとの発生率を色の濃淡で示すリスクマップとして表示され、開発者がリスクを把握しやすくしている。

今後の展望と業界への影響

三菱電機が開発したAIの網羅検証技術は、AIの信頼性向上に大きく寄与する可能性がある。

この技術は、決定木アンサンブルモデルに対して効率的な網羅検証を行う新たなアルゴリズムと、直感的に操作できる対話的な検証ツールを組み合わせたものだ。

AI開発者は短時間でAIモデルの誤動作リスクを検証し、リスクマップを通じて問題箇所を視覚的に把握できる。

結果として、AIの誤動作リスクを低減し、信頼性を向上させることが期待される。

しかし、この技術にはいくつかの課題も存在する。

まず、対象となるモデルが決定木アンサンブルモデルに限定されている点である。他のモデルへの適用には、さらなる研究開発が必要となるだろう。

また、ブラウザベースのGUIを使用した対話的な検証ツールは直感的な操作性を提供するが、ユーザーが新しいツールに慣れるまでの学習コストが発生する可能性がある。

今後、三菱電機は2025年度以降、社内外でのAI開発においてこの技術の実証を進める予定だ。

さらに、AIの標準化活動とも連携し、技術を広く社会に還元することを目指している。

この技術が広く普及すれば、AI開発者は網羅検証のサイクルを迅速に回すことが可能となり、AIの信頼性向上に大きく貢献するだろう。

特に、機器の自律制御システムや社会インフラシステムにおいて、AIの信頼性が重要視される中、この技術の導入は業界全体にとって有益だと考えられる。