CTCの「C-NOAH」強化　AI監視でAIチャットボット誤情報生成抑制

2025年4月30日、伊藤忠テクノソリューションズ（CTC）は、金融機関向け業務支援サービス「C-NOAH（シー・ノア）」にAIチャットボットのハルシネーション（誤情報生成）を抑制する新機能を追加したと発表した。
米Dynamo AIの監査ツール「Dynamo Guard」を活用し、チャットボット応答の正確性と信頼性を高めている。

チャットボットの信頼性を担保する新機能でAI活用の現場を支援

CTCが提供する「C-NOAH」は、金融機関の業務効率化を目的に、業務アプリケーションやインフラ、AIサービスをクラウド上で一元的に提供する統合プラットフォームだ。
今回追加された新機能は、AIチャットボットが不正確な回答を生成する「ハルシネーション」と呼ばれる現象を抑えるために設計されている。
AIが生成した回答内容をリアルタイムで監査し、不適切な情報や信頼性に欠けるプロンプトが検出された場合、学習データとして利用せずに自動停止させる仕組みが導入された。

さらに、生成された回答の信頼度を数値化する機能も搭載された。
公的機関や業界団体が提供する正規データと照合し、評価スコアが所定の基準を下回った場合にはアラートが表示される仕組みとなっている。
こうした多層的な検証プロセスにより、業務現場におけるチャットボットの誤案内リスクを大幅に軽減できると考えられる。

特に金融機関においては、AIが提示した情報の誤りが、投資判断や業務執行に影響を及ぼすリスクがある。
今回の機能強化は、そうした誤情報リスクへの備えを支える基盤技術として注目されるだろう。

AIガバナンスの要として進化するC-NOAH　信頼性重視の設計が導く次世代活用モデル

CTCがC-NOAHに導入したAI監査機能は、単なる精度向上にとどまらず、AIガバナンス強化の流れとも深く関係していると思われる。
国内外で生成AIの利活用が進む中、誤情報やバイアスの制御は事業継続に直結する問題となりつつある。そのような状況下で、C-NOAHがAI活用のリスクを可視化し、運用水準の底上げを図ったことは、大きな意義があると言える。
一方で、デメリットとしては、運用コストやシステム複雑化の懸念がある。
信頼性向上のために多層的な検証を導入することで、導入初期の構築負荷や維持費が増大する可能性は高いだろう。

今後は、単なる誤情報抑制にとどまらず、誤情報の自動修正や、ユーザー属性に応じた信頼度調整といった「文脈適応型AI」の導入も進む可能性がある。
また、リアルタイムでの人間との協調（ヒューマン・イン・ザ・ループ）や、企業内データと連携した独自モデルの構築など、AI利活用の高度化にも期待したい。