重要ポイント
- Anthropicが2026年11月3日、AIの応答がどのモデルで生成されたかを暗号学的に証明する研究プロトタイプ「FlashProve」を公開
- zkSNARKという暗号学的証明の技術を使い、モデルの重み自体は公開せずに検証できる
- H100 GPU 1基で毎秒約110トークンの速度で証明を生成でき、検証側は24コアCPUで約17秒で完了
- 技術レポート・プロトコル仕様・実行可能コードをApache 2.0ライセンスで公開
- 現時点では研究プロトタイプで、商用提供の時期や料金は示されていない
概要
Anthropicは2026年11月3日(米国時間)、AIサービスの応答が実際にどのモデルから生成されたかを検証できる技術「provable inference(証明可能な推論)」の研究プロトタイプ「FlashProve」を発表しました。利用者はAPIやチャットで受け取った応答が、本当に案内されたモデルによるものかを通常確認できません。FlashProveは、サービス提供者がモデルの重みを明かさずに、応答の生成元を暗号学的に証明できるようにする仕組みです。コードや技術レポートはオープンソースとして公開されており、研究者や開発者が内容を検証・改良できるようになっています。
詳細
zkSNARKによる証明の仕組み
FlashProveは、暗号学における「zkSNARK(ゼロ知識簡潔非対話型証明)」という手法を応用しています。仕組みは2段階に分かれます。まず「オフラインフェーズ」で、サービス提供者がモデルの重みに対する短い指紋のような情報(コミットメント)を公開します。この時点では重みそのものは明らかになりません。次に「オンラインフェーズ」で、リクエストごとに「コミットされたモデルが、このプロンプトに対してこの出力トークンを生成した」という内容の証明ファイルを作成します。この証明は、正直な証明は必ず受理される一方で偽の証明は実質的に作成できないという性質を持ち、さらにモデルの重みや中間の計算結果を一切漏らさないゼロ知識性も備えています。
処理速度とコスト
技術レポートでは、Llama 4 Maverickモデル(4bit量子化)をH100 GPU 1基で動かした場合の数値が示されています。証明の生成速度は毎秒約110トークンで、1,024トークンのリクエストに対する証明ファイルのサイズは約19MBです。検証する側は、約6.5MBのコミットメント情報をダウンロードした上で、24スレッドのCPUであれば約17秒、1スレッドでも約21秒で検証を完了できるとしています。混合エキスパート(MoE)型のモデルでは、実際に動いたエキスパートの分だけ証明作業が発生するよう工夫されており、単一の80GB GPUでも動作するとされています。
想定される用途
- 契約したモデルより性能の低いモデルにひそかに差し替えられていないかの確認
- サーバー側での改ざんの検出
- テキストがどのモデルで生成されたかの出所証明
- 規制当局や監査人による、承認済みモデルが使われているかの独立した確認
限界と課題
技術レポートでは、いくつかの限界も示されています。高速版のコードには形式的な保証がなく、数学的に検証されたLean版の実装と完全に一致する保証はありません。また、現在の仕組みは整数演算のモデルと決定的な出力(greedy decoding)を前提としており、サンプリングを使う生成や浮動小数点実装での一致は保証されません。対象コンテキストも最大1,024トークンまでで、処理時間の違いを利用した側面攻撃(サイドチャネル攻撃)への対策も範囲外とされています。Anthropicは、商用サービスへの組み込みについては今後の課題としており、現時点では研究プロトタイプの位置づけです。
出典
- Towards provable inference: FlashProve(Anthropic、2026年11月3日)
- FlashProve(GitHub)(Anthropic)
- 「特定のAIモデルで出力が生成されたこと」を証明できる仕組み「FlashProve」をAnthropicが開発(GIGAZINE、2026年11月4日)
