米Anthropicは、大規模言語モデルの応答が指定されたモデルから生成されたことを暗号技術で検証する研究試作システム「FlashProve」を公開した。モデルの内部情報を秘匿しながら、第三者が応答の真正性を確認できる仕組みだ。
4000億パラメータ級モデル、1024トークン文脈の証明処理で毎秒約110トークン相当
生成AIの利用者は現在、指定したモデルが実際に応答したかを出力だけで確かめることが難しい。仲介サービスが別の安価なモデルへ切り替えたり、攻撃者が応答を改ざんしたりしても、文章の品質から判別できるとは限らない。
2026年11月2日にAnthropicから発表されたFlashProveは、ゼロ知識証明の一種「zkSNARK（※）」を利用するシステムだ。提供者は事前にモデルの重みを特定する暗号学的な情報を公開し、後から応答がその重みに基づく計算で生成されたことを示す証明を発行する。
検証側は重みを入手せず、応答と証明を照合できる。
検証にはMetaの4000億パラメータ規模のMoEモデル「Llama 4 Maverick」を使用した。H100 GPU1基などを備えたサーバーで、1024トークンの文脈を持つ24件のリクエストを約223秒で処理した。各証明が検証するのは1トークンである。
1024トークンの入力文脈を対象とする1件当たりの証明データは約18.78MBで、24コアCPUによる検証時間は17秒だった。
ただし証明生成には通常の推論に比べ、GPU当たり約70〜95倍の時間が必要となる。Anthropicは技術報告書、実行コード、形式検証言語「Lean」による安全性の証明などをApache 2.0で公開した。
※zkSNARK：計算の正しさを、元の情報を開示せずに証明する暗号技術。ゼロ知識証明の一種であり、検証者は計算を最初から実行することなく、比較的小さな証明データを使って結果を確認できる。ブロックチェーンの処理検証などにも応用されている。
AIのなりすまし防止に期待、計算負荷と適用範囲が課題
この技術が実用化されれば、利用者はAIの応答が契約したモデルの計算結果と一致するかを、提供者に依存せず検証できるようになる。特に複数のモデルを仲介するサービスや、AIによるソフトウェア検査の実施記録など、モデルの同一性が信頼に直結する場面で価値が大きい。
提供者側にも利点がある。証明を推論結果に結び付けることで、サーバー侵害によるモデルのすり替えを検知しやすくなるほか、監査機関が非公開の重みにアクセスせずに運用状況を確認する手段となりうる。規制上、承認されたモデルが使われたかを検査する用途にも展開の余地がある。
一方、現段階のFlashProveは研究段階の試作品だ。証明対象は最大1024トークンの文脈で、整数演算と最も確率の高い単語を選ぶ生成方式に限定される。
一般的な浮動小数点演算や確率的な文章生成との一致は保証されず、公開された高速な実行コードも形式的な安全性保証の対象外となっている。
さらに、証明を後からまとめて生成する方式のため、リアルタイムの応答ごとに即座に保証を付けるのは難しい。今後は、証明コストの削減と長文対応、監査可能な実装の整備が普及を左右するだろう。
関連記事:
スポーツプレス協会がC2PA加入 生成AI時代の真偽証明へ
OpenAI、AI生成画像の来歴証明を強化 SynthIDとC2PA導入で信頼性向上へ
Tools for Humanity、「人間証明」World IDを刷新 画面越し本人確認強化でAI偽装に対応
