AI-Papers
- Google DeepMindが形式検証向けのエージェント枠組みAlphaProof Codeを発表し、Signalプロトコルの実装を検証したと公表しました
- Gemini Carbonを基盤とするエージェント群が600万行を超えるLean証明を生成し、作業期間は4週間だったとしています
- 過去に修正済みのバグを再投入した試験では、脆弱な版が安全でないことの機械検証済み証明が得られました
発表の概要
Google DeepMindは2026年11月10日、形式検証を担うエージェント枠組みAlphaProof Codeを発表しました。形式検証とは、プログラムが満たすべき性質を数学の定理として書き、証明によって成り立つことを確かめる手法です。テストと違い、入力の組み合わせを試すのではなく、全ての場合について成立を示せる点が特徴です。
今回の検証対象は、Signal および Google Messages の秘密の会話を保護しているSignalプロトコルの実装コードです。設計仕様だけでなく、端末上で動くコンパイル後のコードまで対象に含めたとしています。DeepMindは、広く実運用されている暗号プロトコルをこの深さでAIが形式検証した初の事例であり、手法を問わずこの種のプロトコルの実装が形式検証された初例でもあると説明しています。
人が決めAIが証明する
AlphaProof Codeは単一のモデルではなく、複数のLarge Language Model（LLM）を組み合わせた構成を取ります。何を証明するかという判断は人間が担い、証明そのものをエージェントが書く役割分担です。セキュリティ上の目標を形式仕様に翻訳する工程では複数のモデルを併用し、出来上がった仕様はすべて人間の専門家が確認したとしています。
証明の生成を担ったのはGemini Carbonを基盤とするエージェント群で、証明記述言語Leanで600万行を超える証明を出力しました。生成された証明の大部分はLeanの検査器が自動で正しさを確かめ、エージェントが判断に迷った箇所だけが人間のレビューに回る設計です。DeepMindによれば、レビューに回ったのはコードベースのごく一部にとどまり、全体の作業は4週間で完了しました。同種の作業は専門家チームでも通常は数年規模になるとされています。
図1のように、人間が関与するのは検証対象の決定と仕様の確認、そして機械が判断を保留した箇所の確認に絞られています。証明作業の量そのものはエージェント側が引き受ける構造です。
検証した性質とバグ試験
示された性質には、端末が一時的に侵害された場合でも、その前後に送受信されたメッセージが保護され続けることが含まれます。鍵が一度漏れても過去や将来の通信が守られるという、Signalプロトコルが設計上うたってきた保証に対応するものです。
検証の実効性を確かめる試験として、実際に過去に存在し修正済みだった2件のバグを、隔離環境のSignalコードに再投入する実験も行われました。いずれの場合も、その版が安全でないことを示す機械検証済みの証明が生成されたとしています。「正しい」ことだけでなく「正しくない」ことを検出できるかを確かめた点で、検証が形式的に通るだけの空回りではないことを示す材料になります。
Signalの最高技術責任者であるEhren Kret氏は、稼働中のコードを有効なLean定理へ翻訳するためにAIエージェントを使うことは大きな前進だとコメントしています。
成果物の公開と波及
形式検証の成果物はオープンソースとして公開され、技術論文も合わせて提示されています。公開先は google-deepmind.github.io/code-verification です。証明が外部から検査可能な形で出ているため、主張の妥当性を第三者が追試できます。
AI によるコード生成が広がる一方、生成物の正しさを確かめる工程は人手に依存したままでした。AIをコードの検査側に回す動きとしては、OpenAIがHacktronと提携してAIエージェントで脆弱性を探索する取り組みも進んでいます。探索型の脆弱性診断が「見つかったバグ」を示すのに対し、形式検証は条件下で「バグがないこと」を示す方向であり、両者は補完関係にあります。
DeepMindは今後の適用先として、医療機器のファームウェアや電力系統のソフトウェアを挙げています。また、自動で防御を行うエージェントCodeMenderと形式検証を組み合わせる構想にも触れています。残る論点は、検証対象をどこまで広げられるかと、仕様の正しさを人間が判断する工程がボトルネックにならないかという点です。証明が通っても仕様自体が守りたい性質を捉えていなければ保証は意味を持たないため、仕様策定の信頼性が全体の鍵になります。
