zkPyTorch:ゼロ知識証明で信頼できるAIの未来を築く

原著者: Jiaheng Zhang

ヘルスケア、金融、自動運転などの主要分野で人工知能(AI)が深く実装される中、機械学習(ML)推論プロセスの信頼性、透明性、セキュリティを確保することがこれまで以上に重要になっています。

しかし、従来の機械学習サービスは、ユーザーが結果を見ることしかできない「ブラックボックス」のように動作することが多く、プロセスの検証が困難でした。 この不透明性により、モデル サービスは次のようなリスクにさらされます。

• モデルが盗用される、
• 推論結果が悪意によって改ざんされる、
• ユーザーデータはプライバシー漏洩のリスクにさらされています。

ZKML(Zero-Knowledge Machine Learning)は、この課題に対する新しい暗号化ソリューションを提供します。 これは、ゼロ知識証明(ZKP)に依存して、機械学習モデルに暗号的に検証可能な能力を与え、計算が正しく実行されたことを証明します。これは、計算に関する機密情報を明らかにすることなく行われます。

言い換えれば、ZKPはサービス提供者がユーザーに証明することを可能にします。

「あなたが得た推論結果は、確かに私が訓練されたモデルを使って得たものですが、私はモデルのパラメータを漏らすことはありません。」

これは、ユーザーが推論結果の信頼性を信頼できる一方で、モデルの構造とパラメーター (多くの場合、価値の高い資産) は常に非公開のままであることを意味します。

zkPyTorchの

Polyhedra Network は、ゼロ知識機械学習（ZKML）専用に設計された革命的なコンパイラ zkPyTorch を発表しました。これは、主流の AI フレームワークと ZK 技術との間の最後の一マイルをつなぐことを目的としています。

zkPyTorchは、PyTorchの強力な機械学習機能と最先端のゼロ知識証明エンジンを深く統合しているため、AI開発者は、プログラミングの習慣を変えたり、新しいZK言語を学んだりすることなく、慣れ親しんだ環境で検証可能なAIアプリケーションを構築できます。

このコンパイラは、高レベルのモデル演算(畳み込み、行列乗算、ReLU、ソフトマックス、アテンションメカニズムなど)を暗号的に検証できるZKP回路に自動的に変換し、Polyhedraの自社開発のZKML最適化スイートと組み合わせて、主流の推論パスをインテリジェントに圧縮および加速し、回路の正確性と計算効率の両方を確保できます。

信頼できるAIエコシステムを構築するための重要なインフラ

今日の機械学習エコシステムは、データの安全性、計算の検証可能性、モデルの透明性など、複数の課題に直面しています。特に、医療、金融、自動運転などの重要な業界において、AIモデルは大量のセンシティブな個人情報を含むだけでなく、高価値の知的財産や核心的なビジネス機密を担っています。

ゼロ知識機械学習(ZKML)が登場し、このジレンマを解決するための重要なブレークスルーとなりました。 ZKP(Zero-Knowledge Proof)技術により、ZKMLは、プライバシーと信頼性の両方において、モデルパラメータや入力データを公開することなく、モデル推論の整合性検証を完了することができます。

しかし、実際には、ZKMLの開発は陳腐化させることが非常に難しく、暗号学の深いバックグラウンドが必要であり、従来のAIエンジニアが簡単に習得できるものではありません。

これこそが zkPyTorch の使命です。これは PyTorch と ZKP エンジンの間に橋を架け、開発者が慣れ親しんだコードを使ってプライバシー保護と検証可能性を備えた AI システムを構築できるようにし、複雑な暗号学の言語を再学習する必要をなくします。

zkPyTorchを通じて、Polyhedra NetworkはZKMLの技術的障壁を大幅に低下させ、スケーラブルで信頼できるAIアプリケーションが主流に入ることを推進し、AIの安全性とプライバシーに関する新たなパラダイムを再構築しています。

zkPyTorch ワークフロー

! zkPyTorch:ゼロ知識証明による信頼できるAIの未来の構築

図1:ZKPyTorchの全体的なアーキテクチャの概要

図 1 に示すように、zkPyTorch は、適切に設計された 3 つのモジュールを通じて、標準の PyTorch モデルを ZKP 互換回路に自動的に変換します。 これらの3つのモジュールには、前処理モジュール、ゼロ知識フレンドリーな量子化モジュール、および回路最適化モジュールが含まれます。

このプロセスでは、開発者が暗号回路や特殊な構文を習得する必要はありません:開発者は標準のPyTorchでモデルを書くだけでよく、zkPyTorchはそれをExpanderなどのゼロ知識証明エンジンで認識できる回路に変換して、対応するZK証明を生成することができます。 この高度にモジュール化された設計により、ZKML開発への参入障壁が大幅に低下し、AI開発者は言語を切り替えたり暗号化を学んだりすることなく、効率的で安全で検証可能な機械学習アプリケーションを簡単に構築できます。

モジュール1：モデル前処理

最初のフェーズでは、zkPyTorch は Open Neural Network Exchange Format (ONNX) を使用して PyTorch モデルを構造化された計算グラフに変換します。 ONNX は、複雑な機械学習操作を統一的に表現するための、業界で最も広く採用されている中間表現標準です。 この前処理ステップを通じて、zkPyTorchはモデル構造を明確にし、コアコンピューティングプロセスを分解し、その後のゼロ知識証明回路の生成のための強固な基盤を築くことができます。

モジュール2：ZKPフレンドリー量子化

量子化モジュールは、ZKMLシステムの重要な部分です。 従来の機械学習モデルは浮動小数点演算に依存していますが、ZKP環境は有限フィールドでの整数演算に適しています。 zkPyTorch は、有限フィールド用に最適化された整数量子化スキームを使用して、浮動小数点計算を整数計算に正確にマッピングすると同時に、ZKP に適さない非線形演算 (ReLU や Softmax など) を効率的なルックアップ テーブルに変換します。

この戦略は、回路の複雑さを大幅に減少させるだけでなく、モデルの精度を確保した上で、システム全体の検証可能性と運用効率を向上させました。

モジュール 3: 階層型回路の最適化

zkPyTorchは回路最適化においてマルチレベル戦略を採用しており、具体的には：

• バッチ処理の最適化 シリアライズ計算のために特別に設計されており、複数の推論ステップを一度に処理することで、計算の複雑さとリソース消費を大幅に削減します。特に、Transformerなどの大規模言語モデルの検証シーンに適しています。 *プリミティブ操作の加速
  高速フーリエ変換（FFT）畳み込みとルックアップテーブル技術を組み合わせることで、畳み込みやSoftmaxなどの基本的な演算の回路実行速度を効果的に向上させ、全体的な計算効率を根本的に強化します。
• パラレル回路の実行 マルチコアCPUとGPUの計算能力の利点を最大限に活用し、行列乗算などの高負荷計算を複数のサブタスクに分割して並列に実行することで、ゼロ知識証明生成の速度とスケーラビリティを大幅に向上させます。

詳細な技術ディスカッション

有向非巡回グラフ (DAG)

zkPyTorchは、有向非循環グラフ（DAG）を使用して機械学習の計算フローを管理します。DAG構造は、複雑なモデル依存関係を体系的に捉えることができ、図2に示されているように、図の各ノードは具体的な操作（行列転置、行列乗算、除算、Softmaxなど）を表し、エッジはこれらの操作間のデータフローを正確に記述しています。

この明確で構造化された表現は、コミッショニングプロセスを大幅に促進するだけでなく、パフォーマンスのさらなる最適化も促進します。 DAGのループフリーな性質は、循環依存性を回避し、ゼロ知識証明回路の生成を最適化するために重要な計算シーケンスの効率的で制御可能な実行を保証します。

さらに、DAGはzkPyTorchがTransformerや残差ネットワーク（ResNet）などの複雑なモデルアーキテクチャを効率的に処理できるようにします。これらのモデルは通常、複数の経路と非線形の複雑なデータフローを持ち、DAGの設計はその計算ニーズにぴったり合致し、モデル推論の精度と効率を保証します。

! zkPyTorch:ゼロ知識証明で信頼できるAIの未来を築く

図2：有向非循環グラフ（DAG）形式で表された機械学習モデルの例

高度な定量化技術

zkPyTorchでは、ゼロ知識証明(ZKP)システムでの効率的な有限体演算のために、浮動小数点計算を整数演算に変換するための重要なステップとして、高度な量子化技術が採用されています。 zkPyTorch は、計算効率とモデルの精度のバランスを取るように慎重に設計された静的整数法を使用しており、証明が迅速かつ正確に生成されるようにします。

この量子化プロセスには、浮動小数点数を効果的に表現し、波及効果や精度の大幅な損失を回避するための最適な量子化スケールを正確に決定するための厳密なキャリブレーションが含まれます。 ソフトマックスやレイヤー正規化など、ZKP独自の非線形コンピューティングの課題に対応して、zkPyTorchはこれらの複雑な関数を効率的なテーブルルックアップ操作に革新的に変換します。

この戦略は、証明生成の効率を大幅に向上させるだけでなく、生成された証明結果が高精度な量子モデルの出力と完全に一致することを保証し、性能と信頼性の両立を図り、検証可能な機械学習の実用化プロセスを推進しました。

マルチレベル回路最適化戦略

zkPyTorchは、高度に精密なマルチレイヤ回路最適化システムを採用しており、複数の次元からアプローチし、ゼロ知識推論の効率とスケーラビリティにおける極致のパフォーマンスを確保しています：

バッチ処理の最適化

複数の推論タスクをバッチ処理にパッケージ化することで、特に Transformers などの言語モデルのシーケンシャル操作シナリオでは、全体的な計算の複雑さが大幅に軽減されます。 図3に示すように、従来の大規模言語モデル(LLM)推論プロセスはトークンごとに実行されますが、zkPyTorchの革新的なアプローチでは、すべての入力トークンと出力トークンを1つのプロンプトプロセスに集約して検証します。 このプロセスにより、LLM の全体的な推論が一度に正しいことが確認され、各出力トークンが標準の LLM 推論と一致していることが保証されます。

LLM 推論では、KV キャッシュ メカニズムの正確性が、推論出力の信頼性を確保するための鍵です。 モデルの推論ロジックが正しくない場合、キャッシュを使用しても、標準のデコードプロセスと一致する結果を復元することはできません。 zkPyTorchは、このプロセスを正確に再現することにより、ゼロ知識証明のすべての出力の検証可能な確実性と完全性を保証します。

! zkPyTorch:ゼロ知識証明で信頼できるAIの未来を築く

図3：大規模言語モデル（LLMs）計算のバッチ検証。ここで、Lは入力シーケンスの長さ、Nは出力シーケンスの長さ、Hはモデルの隠れ層の次元を表します。

最適化されたプリミティブ操作

zkPyTorchは、基盤となる機械学習プリミティブを深く最適化し、回路の効率を大幅に向上させます。 例えば、畳み込み演算は常に計算量が多く、zkPyTorchでは高速フーリエ変換(FFT)に基づく最適化手法を用いて、もともと空間領域で行われていた畳み込みを周波数領域の乗算演算に変換することで、計算コストを大幅に削減しています。 同時に、ReLUやsoftmaxなどの非線形関数の場合、システムは事前に計算されたルックアップテーブル法を採用しているため、ZKPの非友好的な非線形計算を回避し、推論回路の動作効率を大幅に向上させます。

並列回路実行

zkPyTorchは、複雑なML演算を並列回路に自動的にコンパイルし、マルチコアCPU/GPUのハードウェアの可能性を最大限に引き出して、超並列プルーフ生成を実現します。 たとえば、テンソル乗算を実行する場合、zkPyTorch は計算タスクを複数の独立したサブタスクに自動的に分割し、それらを複数の処理ユニットに並列に分散します。 この並列化戦略により、回路実行のスループットが大幅に向上するだけでなく、大規模モデルの効率的な検証が可能になり、スケーラブルなZKMLの新たな次元が開かれます。

包括的なパフォーマンス測定:パフォーマンスと精度のダブルブレークスルー

zkPyTorchは厳密なベンチマークテストを通じて、複数の主要な機械学習モデルにおいて卓越した性能と実用性を示しています。

VGG-16 モデルテスト

CIFAR-10 データセットでは、zkPyTorch は 1 つの画像の VGG-16 プルーフをわずか 6.3 秒で生成でき、従来の浮動小数点計算と比較して精度にほとんど違いはありません。 これは、zkMLが画像認識などの古典的なタスクで実際の機能を持っていることを意味します。

Llama-3 モデルテスト

80億パラメータに達するLlama-3大規模言語モデルに対して、zkPyTorchは各トークンについて約150秒の効率的な証明生成を実現しました。さらに注目すべきは、その出力結果が元のモデルと比較して99.32%のコサイン類似度を保持しており、高い信頼性を保証しながらも、モデル出力の意味的一貫性を兼ね備えていることです。

! zkPyTorch:ゼロ知識証明で信頼できるAIの未来を築く

! zkPyTorch:ゼロ知識証明で信頼できるAIの未来を築く

表1：各種ZKPソリューションの畳み込みニューラルネットワークとトランスフォーマーネットワークにおける性能表現

現実世界に向けた幅広い応用シーン

検証可能なMLaaS

機械学習モデルの価値が高まる中で、ますます多くのAI開発者が自社開発のモデルをクラウドに展開し、MLaaS（Machine-Learning-as-a-Service）サービスを提供することを選択しています。しかし現実には、ユーザーは推論結果が真実で信頼できるかどうかを検証するのが難しいことが多く、モデル提供者もモデルの構造やパラメータなどの核心資産を保護し、盗用や悪用を避けたいと考えています。

zkPyTorchは、この矛盾を解決するために生まれました：それはクラウドAIサービスにネイティブな「ゼロ知識証明能力」を提供し、推論結果の暗号レベルの検証を実現します。

図 4 に示すように、開発者は Llama-3 などの大規模なモデルを zkPyTorch に直接接続して、ゼロ知識証明機能を備えた信頼性の高い MLaaS システムを構築できます。 zkPyTorchは、基盤となるZKPエンジンとシームレスに統合することで、モデルの詳細を公開することなく自動的に証明を生成し、各推論が正しく実行されたかどうかを検証し、モデルプロバイダーとコンシューマーにとって真に信頼できるインタラクティブな信頼基盤を確立することができます。

! zkPyTorch:ゼロ知識証明で信頼できるAIの未来を築く

図4:検証可能なMLaaSシナリオでのzkPyTorch

モデル評価の安全な航行

zkPyTorch は、安全で検証可能な AI モデル評価メカニズムを提供し、関係者がモデルの詳細を明らかにすることなく、主要業績評価指標を批判的に評価できるようにします。 この「ゼロリーク」評価手法は、AIモデルの新たな信頼性基準を確立し、開発者の知的財産を保護しながらビジネス取引の効率を向上させます。 モデルの価値に対する可視性を高めるだけでなく、AI業界全体に透明性と公平性をもたらします。

と EXPchain ブロックチェーンの深い統合

zkPyTorchは、Polyhedra Networkが独自に開発したEXPchainブロックチェーンネットワークをネイティブに統合し、信頼できる分散型AIインフラストラクチャを共同で構築します。 この統合により、スマートコントラクトの呼び出しとオンチェーン検証のための高度に最適化されたパスが提供され、AI推論結果を暗号的に検証し、ブロックチェーン上に保持することができます。

zkPyTorchとEXPchainのコラボレーションにより、開発者はモデルのデプロイ、推論、コンピューティングからオンチェーン検証まで、エンドツーエンドの検証可能なAIアプリケーションを構築し、透明で信頼性が高く、監査可能なAIコンピューティングプロセスを真に実現し、次世代のブロックチェーン+AIアプリケーションの基礎的なサポートを提供できます。

未来のロードマップと持続的な革新

Polyhedraは、以下の方向性に焦点を当てて、zkPyTorchの進化を引き続き推進していきます。

オープンソースとコミュニティの共創

zkPyTorchのコアコンポーネントを徐々にオープンソース化して、世界中の開発者の参加を刺激し、ゼロ知識機械学習の分野での共同イノベーションと生態学的繁栄を促進します。

モデルとフレームワークの互換性を拡張する

主流の機械学習モデルおよびフレームワークへのサポート範囲を拡大し、zkPyTorchの適応能力と汎用性をさらに向上させ、さまざまなAIワークフローに柔軟に組み込めるようにします。

開発ツールと SDK ビルド

包括的な開発ツールチェーンとソフトウェア開発キット(SDK)を発売し、統合プロセスを簡素化し、実際のビジネスシナリオでのzkPyTorchのデプロイと適用を加速しました。

まとめ

zkPyTorchは、信頼できるAIの未来に向けた重要なマイルストーンです。 成熟したPyTorchフレームワークと最先端のゼロ知識証明テクノロジーを深く統合することで、zkPyTorchは機械学習のセキュリティと検証可能性を大幅に向上させるだけでなく、AIアプリケーションのデプロイメントと信頼の境界を再形成します。

Polyhedraは、「セキュアAI」の分野で革新を続け、プライバシー保護、検証可能な結果、モデルコンプライアンスの観点から機械学習をより高い基準に押し上げ、透明で信頼性が高く、スケーラブルなインテリジェントシステムの構築を支援します。

私たちが発表する最新の進展にご注目ください。zkPyTorchが安全なスマート時代の未来をどのように再構築するかをご覧ください。

原文リンク