Sep, 2020

Justicia：一种基于随机 SAT 的公平性形式验证方法

PDF
TL;DR本文介绍了一种名为 Justicia 的随机可满足性 (SSAT) 框架，用于正式验证不同监督学习算法的公平度量指标，针对不同数据分布的多个分类和偏差缓解算法进行验证，并理论上限制了公平度量的有限样本误差。
fair machine learningsupervised learning algorithmsjusticiafairness metricsdata distribution
发现论文，激发创造
  • 公平精确性平衡下的内在公平性 - 准确性权衡

    机器学习在执法、刑事司法、金融、招聘和招生等领域的日益广泛应用，确保机器学习辅助决策的公平性变得越来越关键。本文以统计学的 “平等机会” 概念为基础，研究了公平性和准确性之间的折衷。我们提出了一个新的准确性上限（适用于任何分类器），并将其作为公平预算的函数。此外，我们的上限还与数据、标签和敏感群体属性的底层统计学关系密切相关。通过对三个真实世界数据集（COMPAS、成年人和法学院）进行经验分析，我们验证了我们理论上限的有效性。具体而言，我们将我们的上限与文献中各种现有公平分类器所实现的折衷情况进行了比较。我们的结果表明，在统计差异存在的情况下，实现高准确性条件下的低偏差可能从根本上受到限制。

    May, 2024

  • 机器学习的准确性和公平性权衡：基于随机多目标方法的研究

    本文介绍了一种新的处理公平性的方法，通过建立一个随机多目标优化问题，得到一组准确且平衡的 Pareto 前沿，以此权衡准确度和公平性，以更高效地处理大量的流数据。

    Aug, 2020

  • 概率集中实现公平性属性验证

    本文介绍了一种基于自适应浓度不等式的可扩展算法，用于验证机器学习系统在进行社会决策时是否会对少数族裔造成不公平待遇，并在一个名为 VeriFair 的工具中实现了这个算法，并证明该算法能够扩展到大的机器学习模型，包括一个比先前已验证过的神经网络大五个数量级的深度循环神经网络，虽然该技术只提供概率保证，但可以选择非常小的误差概率。

    Dec, 2018

  • 机器学习中的公平性

    讨论如何使用因果贝叶斯网络和最优输运理论来处理机器学习公平性问题，尤其是在复杂的不公平场景下，提出了一种统一的框架来处理不同的情况和公平标准，并介绍了一种学习公平表示的方法和一种考虑敏感属性使用限制的技术。

    Dec, 2020

  • 可验证公正性：机器学习系统中隐私保护的公平计算

    通过使用一种安全、可验证且保护隐私的协议，Fairness as a Service (FaaS) 提供了一种计算和验证任何机器学习模型公平性的方法，并通过加密保护数据和结果的隐私，同时零知识证明和多种公平性指标的支持使其能够作为一种服务来审计任何机器学习模型的公平性。

    Sep, 2023

  • 机器学习中预测公平性的形式化

    探讨机器学习算法公平性如何在预测任务中被正式化，并提供相应的社会科学文献中分配公正的概念，通过理论和实证批判这些概念，并解释这些批判如何限制相应公平正式化的适用性和讨论潜在公平正式化的路径。

    Oct, 2017

  • 算法公平监控

    本文介绍了一种基于统计推断的系统的运行时监测技术，该系统具有未知的结构但是被假定为具有马尔可夫链结构。我们引入了一种规范语言，可以模拟许多常见的算法公平性属性，例如人口平均，平等机会和社会负担。使用原型实现，我们展示了如何监测银行在不同社会背景的申请人给予贷款以及学院在保持合理的社会负担的情况下公平地录取学生。

    May, 2023

  • 通过赌博审计公平性

    本文提出了一种使用非参数方法、连续监控、基于概率策略和适应分布变化等特征的公平性审计方法，并在多个基准公平性数据集上验证其有效性。

    May, 2023

  • 自动化有向公平性测试

    AEQUITAS 是一种自动化技术，可以发现系统内机器学习模型对待敏感输入的不公平性，使用概率搜索和测试用例生成等策略，生成能够检测不公平性的测试用例，并使用这些测试用例来提高模型的公平性，AEQUITAS 技术的实验表明，最多可提高 94% 的公平性。

    Jul, 2018

  • 超人公平性

    将公平性问题重新解释为一种基于超级公平性目标的模仿学习任务，以同时提高决策的准确性和公平性。

    Jan, 2023