使用 zkSNARKs 进行机器学习模型的可验证评估

Feb, 2024

使用 zkSNARKs 进行机器学习模型的可验证评估

Verifiable evaluations of machine learning models using zkSNARKs

Tobin South, Alexander Camuto, Shrey Jain, Shayla Nguyen, Robert Mahari...

TL;DR通过使用 zkSNARKs 进行模型推理，本研究提出了一种可验证的模型评估方法，生成针对数据集的计算证明，以证明固定私有权重的模型在公开输入上实现了所述性能或公平度量指标，展示了针对真实世界模型的可验证评估的关键挑战和设计解决方案，从而提供了一种新的透明度范 paradigm。

Abstract

In a world of increasing closed-source commercial machine learning models, model evaluations from developers must be taken at face value. These benchmark results, whether over task accuracy, bias evaluations, or safety checks, are traditionally impossible to verify by a model end-user

closed-source commercial machine learning models model evaluation verifiable model evaluation zksnarks transparency paradigm

发现论文，激发创造

零知识证明与机器学习相遇：一个调研

人工智能技术进展迅速，机器学习模型的使用逐渐成为我们日常生活的一部分。这篇论文提供了一份对基于零知识证明的可验证机器学习（ZKP-VML）技术的综合调查报告，分析了不同机器学习场景中可能存在的可验证性问题，并通过详细分析和分类现有工作的技术方法，讨论了 ZKP-VML 领域面临的关键挑战和未来方向。

Oct, 2023

信任过程：零知识机器学习提升生成 AI 交互的信任

利用零知识证明技术（Zero-Knowledge Proofs，ZKPs）解决机器学习模型的性能公平性和准确性问题，同时保护模型隐私，从而提高人工智能的公平性和透明度。引入了 snarkGPT，一个实际的 ZKML 实现，用于验证生成内容的准确性和质量，同时保护模型的隐私。通过研究 snarkGPT 的可扩展性和性能，评估了采用基于 ZKML 的方法来捕捉生成 AI 模型中的质量和性能公平性问题的可行性和挑战。

Feb, 2024

无需披露数据或模型的无需信任审计

本研究提出了一种名为 ZkAudit 的协议，旨在解决商业激励与算法透明的冲突，允许模型提供者保护模型权重和数据的机密性，同时允许其他方信任地审计模型和数据的属性。通过使用零知识证明，我们证明了可以提供对深度神经网络的可信审计，包括版权审计、审查审计和反事实审计，而几乎不会降低准确性。

Apr, 2024

FairProof：神经网络的保密和可验证公平性

基于零知识证明技术的 FairProof 系统通过公开验证模型公平性的同时保持机密性，解决了使用机器学习模型时面临的法律、隐私及公平性等问题。

Feb, 2024

数据视角下的公平性：机器学习模型认证

本文介绍了一个基于交互和隐私保护测试的框架，该框架允许对任何经过训练的模型进行公平程度的认证，无论其训练过程和架构如何，并且提供了一种加密技术来自动进行公平测试和认证推理，同时隐藏参与者的敏感数据。

Sep, 2020

通过机制可解释性为模型性能提供可证明的保证

使用机制性可解释性推导和简明证明模型性能的形式保障，通过形式下界评估小型 Transformer 模型在 Max-of-k 任务上的准确率，并通过多种证明策略量化地展示了机制性理解与性能保障的紧密联系，最终确定了结构缺失噪声的叠加作为使用机制性可解释性生成简明证明的关键挑战。

Jun, 2024

质量证明：区块链上无需成本的无信任生成型 AI 模型推理范式

这篇论文介绍了一种新的推理范式，称为 “POQ（证明质量）”，用于在区块链架构上部署任意大规模的生成模型，通过轻量级 BERT 模型进行质量评估，并设计和实现了 PQML 协议，该协议可用于基于开源模型的实际 NLP 生成模型推理。

May, 2024

可验证公正性：机器学习系统中隐私保护的公平计算

通过使用一种安全、可验证且保护隐私的协议，Fairness as a Service (FaaS) 提供了一种计算和验证任何机器学习模型公平性的方法，并通过加密保护数据和结果的隐私，同时零知识证明和多种公平性指标的支持使其能够作为一种服务来审计任何机器学习模型的公平性。

Sep, 2023

zkLLM：大规模语言模型的零知识证明

我们提出了 zkLLM，这是我们所知的第一个专门为 LLMs 量身定制的零知识证明，以解决验证 LLMs 生成的输出的真实性的根本挑战。通过完全并行化的 CUDA 实现，我们的方法使得在不到 15 分钟内为拥有 130 亿参数的 LLMs 生成整个推理过程的正确性证明成为可能，该证明的尺寸小于 200 kB，旨在保护模型参数的隐私，确保没有意外信息泄漏。

Apr, 2024

端到端可验证去中心化联邦学习

提出了一个可验证的分散式联邦学习系统，结合区块链和零知识证明，可以在工作者之间验证本地学习和全局聚合的计算完整性。通过引入两步证明和验证的方法，实现了数据和计算的端到端完整性和真实性验证，解决了机密性和透明性之间的冲突。在一个原型实现上的评估表明，与最先进的解决方案相比，技术上是可行的，并且只有较小的性能开销。

Apr, 2024