公平性准则的逐步（不）相容性

AAAISep, 2021

Gradual (In)Compatibility of Fairness Criteria

Corinna Hertweck, Tim Räz

TL;DR本文探讨了如何在合理的假设下同时满足公正度量（独立性、分离性、充分性）并 / 或提高这些公正度量，引入了公正度量的信息理论形式，并根据这些形式定义了公正度，进一步探讨了这三个公正度的理论关系。在实验部分，使用信息理论表达式作为规范化器以获得三个标准数据集的公正度规范化预测器。实验结果表明，公正规范化直接增加公正度量，并间接增加其他公正度量，这表明在一定程度上可以同时满足某些公正度量。

Abstract

Impossibility results show that important fairness measures (independence, separation, sufficiency) cannot be satisfied at the same time under reasonable assumptions. This paper explores whether we can satisfy and/or improve these →

fairness measures information-theoretic formulations fairness-regularized predictors experimental part theoretical relations

发现论文，激发创造

通过有效的互信息近似实现快速公平回归

本文针对算法公平性和回归模型中的组公平标准，提出了快速近似的独立性、分离性和充分性，用于执行正则化风险最小化，从而实现公平性和准确性的折衷。

Feb, 2020

最大公平性

本文研究了 AI 中的公平性问题，探讨了 Fairness measures 可能存在的最大集合以及一些实际应用方面的问题。

Apr, 2023

基于信息论的公平感知特征选择度量

本篇文章提出了一种基于信息论度量和 Shapley 值函数的公平特征选择框架，以考虑特征与决策结果之间的相关性，量化了不同特征对决策结果准确性与公平性的影响，最终设计了一个特征的公平效用分数，对真实和合成数据进行了性能评估。

Jun, 2021

利用部分信息分解统一观点下的群体公平性权衡

这篇论文介绍了一种新颖的信息论视角，探讨了机器学习中著名的群体公平性概念之间的关系，即统计平衡、平等几率和预测平衡。通过利用信息论中称为部分信息分解（PID）的工作，我们准确阐明了这三个 (不) 公平性度量之间的精确关系，并确定了它们重叠和相互矛盾的细节区域，从而引发了潜在的权衡。我们还包括了数值模拟来补充我们的结果。

Jun, 2024

公平性的极限挑战：谁是最公平的？

该论文研究算法公平性的不可能定理，提出了一种基于整数规划方法的框架，可以同时满足多种公平标准，并在模型性能减少的情况下改善公平性，以及探讨了模型选择和公平性可解释性的应用。

Aug, 2022

公平机器学习的延迟影响

本研究研究了在机器学习中关于公平性的概念，发现公平标准在不同的时间指标下可能会对个体产生不同的影响，同时量化误差也会影响其效果评估。

Mar, 2018

公平度量与权衡导航

通过使用 Rawls 公正作为选择公平措施及取得平衡的基础，我们可以为 AI 系统中的公平 / 准确度取得权衡提供一个有原则的选择，从而集中关注最脆弱的群体和最有影响该群体的公平措施。

Jul, 2023

公平确定风险分数中的固有权衡

本研究讨论了关于算法分类的公正性的最近公众领域的讨论，探讨了三种公平条件并证明除非在高度约束的特殊情况下，没有一种方法可以同时满足这三个条件，这些结果表明公正性的关键概念彼此不兼容，需要权衡其之间的关系。

Sep, 2016

特征例外下的公平性：反事实和观测测度

本研究提出了一种信息论量化方法，将总体失调度量（受反事实公平性启发）分解为两个组成部分：不免除组成部分和免除组成部分，使人们可以检查失调是否纯粹由于关键特征引起，并在需要时选择性地去除非免除组成部分。

Jun, 2020

分类中公平的代价

本文研究学习分类器的公平性约束问题并提出了三种解决方案，分别是将两个现有的公平性度量关联到成本敏感风险，显示了对于成本敏感分类和公平性度量的最优分类器是类概率函数的实例相关阈值，并展示了准确性和公平性之间的权衡是通过目标和敏感特征的类概率之间的一致性来确定的。支撑我们分析的是一个通用框架，将具有公平要求的学习问题建模为两种统计风险差异的最小化问题。

May, 2017