「特定のAIモデルで出力が生成されたこと」を証明できる仕組み「FlashProve」をAnthropicが開発

AIの性能は日々向上しており、ユーザーが使えるAIモデルの種類は急増しています。しかし、ユーザー側から「宣伝されている通りのAIモデルが使われているのか」を確かめる方法は限られており、サービス側が低性能AIモデルをこっそり使っている可能性を排除できません。この状況を打破するべく、Anthropicが「特定のAIモデルで出力が生成されたこと」を証明できる仕組み「FlashProve」を開発しました。

Progress on provable inference for large language models \ Anthropic
https://www.anthropic.com/research/provable-inference

New Anthropic research: progress on provable inference for large language models.

Here, we introduce FlashProve. Building on established cryptographic techniques, FlashProve allows developers to verify whether a given response came from a given AI model. It’s substantially more…

— Anthropic (@AnthropicAI) November 3, 2026

応答の生成に利用されたAIモデルの種類をユーザー側から特定できない現状では、サービス提供者が宣伝とは異なる低コストなモデルを用いて不当に利益を得る可能性があります。また、「モデルの安全性が監査機関によって確認されたあと、別のモデルに差し替えてサービスを提供する」「攻撃者が特定のモデルになりすましてユーザーを攻撃する」といった安全上の課題が生じる可能性もあります。

こうした問題の解決策として開発されたのがFlashProveです。FlashProveは暗号学的証明手法「zkSNARK」を用いるシステムで、サービス提供者は既存の手法より少ないコストで証明ファイルを作成することが可能。zkSNARKで作成される証明ファイルにはモデルのウェイトに関する情報が含まれないため、クローズドモデルであってもモデルの情報を隠したまま証明を提供できます。

証明ファイルの検証は24コアCPUを用いて数秒で完了できます。このため、ユーザー側も少ない計算リソースでAIサービスの真贋性を検証することができ、サービス提供者の不正や攻撃を未然に防ぐことができます。

FlashProveの証明ファイル作成や検証に用いるコードについては、研究用プロトタイプのものが以下のリンク先で公開されています。

GitHub - anthropics/FlashProve: A research prototype for zero-knowledge proofs of AI inference. Not maintained. · GitHub
https://github.com/anthropics/FlashProve