可验证公正性：机器学习系统中隐私保护的公平计算

Sep, 2023

可验证公正性：机器学习系统中隐私保护的公平计算

Verifiable Fairness: Privacy-preserving Computation of Fairness for Machine Learning Systems

Ehsan Toreini, Maryam Mehrnezhad, Aad van Moorsel

TL;DR通过使用一种安全、可验证且保护隐私的协议，Fairness as a Service (FaaS) 提供了一种计算和验证任何机器学习模型公平性的方法，并通过加密保护数据和结果的隐私，同时零知识证明和多种公平性指标的支持使其能够作为一种服务来审计任何机器学习模型的公平性。

Abstract

fair machine learning is a thriving and vibrant research topic. In this paper, we propose fairness as a service (FaaS), a secure, verifiable and

fair machine learning fairness as a service privacy-preserving protocol zero knowledge proofs auditing ml models

发现论文，激发创造

数据视角下的公平性：机器学习模型认证

本文介绍了一个基于交互和隐私保护测试的框架，该框架允许对任何经过训练的模型进行公平程度的认证，无论其训练过程和架构如何，并且提供了一种加密技术来自动进行公平测试和认证推理，同时隐藏参与者的敏感数据。

Sep, 2020

FairProof：神经网络的保密和可验证公平性

基于零知识证明技术的 FairProof 系统通过公开验证模型公平性的同时保持机密性，解决了使用机器学习模型时面临的法律、隐私及公平性等问题。

Feb, 2024

机器学习中的公平性

讨论如何使用因果贝叶斯网络和最优输运理论来处理机器学习公平性问题，尤其是在复杂的不公平场景下，提出了一种统一的框架来处理不同的情况和公平标准，并介绍了一种学习公平表示的方法和一种考虑敏感属性使用限制的技术。

Dec, 2020

算法公平监控

本文介绍了一种基于统计推断的系统的运行时监测技术，该系统具有未知的结构但是被假定为具有马尔可夫链结构。我们引入了一种规范语言，可以模拟许多常见的算法公平性属性，例如人口平均，平等机会和社会负担。使用原型实现，我们展示了如何监测银行在不同社会背景的申请人给予贷款以及学院在保持合理的社会负担的情况下公平地录取学生。

May, 2023

主动公平性审计

研究 ML 模型的审计算法，通过提出确定性算法和实用的随机化算法来评估 ML 模型的人口统计平等，以帮助监管机构应对机器学习的监管挑战，并为 AI 治理奠定更坚实的理论基础。

Jun, 2022

概率集中实现公平性属性验证

本文介绍了一种基于自适应浓度不等式的可扩展算法，用于验证机器学习系统在进行社会决策时是否会对少数族裔造成不公平待遇，并在一个名为 VeriFair 的工具中实现了这个算法，并证明该算法能够扩展到大的机器学习模型，包括一个比先前已验证过的神经网络大五个数量级的深度循环神经网络，虽然该技术只提供概率保证，但可以选择非常小的误差概率。

Dec, 2018

神经网络完美并行公平性认证

该文提出了一种用于分类表格数据的前馈神经网络的因果公平性认证方法，能够准确判定机器学习模型是否有偏差，并在可扩展的精度方面提供了不同的选择。

Dec, 2019

一个可扩展的基于区块链的联邦学习系统中的公正性、完整性和隐私保护

本论文旨在探究如何采用区块链技术，本地差分隐私和零知识证明等前沿技术，构建一个公平、透明、保护隐私的分散式机器学习系统，以有效解决实践中的公正、完整性和隐私问题。

Nov, 2021

公平是什么？对公平机器学习的哲学思考及其含义

本文旨在通过形式化一致的公平概念，将哲学讨论转化为 ADM 系统中 ML 模型培训和评估的一种正式框架，并提出了一般算法，以实现 fairML 的更高语言清晰度和实际应用。

May, 2022

MLaaS 中的私有训练集检查

本文提出了一种基于数据来源的方法，为使用机器学习模型的客户提供验证私有训练数据集的公平性和多样性的策略，结合了阴影训练技术和多实例学习中的高效特征捕获方案。实验结果表明，该方法可实现高达 0.87 的准确度的成员检查和高达 99.3％的多样性和公平性分布检查的置信度。

May, 2023