本文提出了一种用于多类分类的算法公平性方法，同时给出了最佳公平分类器的相关表达式，该方法基于数据驱动的程序并且有理论保证。该方法在合成和真实数据集上都很有效，在决策制定中具有预设不公平性水平的公平性保证（无需考虑分布），并竞争（即使更好）地完成二元和多类任务。

Sep, 2021

本研究提出了两种新的训练目标，直接优化了广泛使用的平等机会标准，并证明它们在两个分类任务中减少偏见的同时保持高性能。

May, 2022

机器学习在执法、刑事司法、金融、招聘和招生等领域的日益广泛应用，确保机器学习辅助决策的公平性变得越来越关键。本文以统计学的 “平等机会” 概念为基础，研究了公平性和准确性之间的折衷。我们提出了一个新的准确性上限（适用于任何分类器），并将其作为公平预算的函数。此外，我们的上限还与数据、标签和敏感群体属性的底层统计学关系密切相关。通过对三个真实世界数据集（COMPAS、成年人和法学院）进行经验分析，我们验证了我们理论上限的有效性。具体而言，我们将我们的上限与文献中各种现有公平分类器所实现的折衷情况进行了比较。我们的结果表明，在统计差异存在的情况下，实现高准确性条件下的低偏差可能从根本上受到限制。

May, 2024

本研究旨在通过引入公平影响函数对数据集中的特征进行量化，分解分类器偏差成由各个单独特征和多个特征所组成的组成部分，以更好地评估其公平性，并提出了一个基于方差分解和本地回归的算法 FairXplainer，该算法可以更准确地捕捉分类器的偏差，实现更好的公平干预。

Jun, 2022

本文提出了门槛不变的公平性的概念，通过两种近似方法来均衡不同群体之间的风险分布，实现了对机器学习模型公平性的提高。

Jun, 2020

研究机器学习如何处理公平性和防止基于敏感属性的预测性歧视问题，并提出一种名为 AdaFair 的基于 AdaBoost 分类器的方法，该方法显式地处理类别不平衡并在维持分类准确性的同时优化公平性，实验证明其在平衡错误方面比现有的公平性方法表现显著好 25％。

Sep, 2019

考虑机器学习分类器对不同民族、群体的不公平对待问题，本文提出了公正约束的多种方式，以及带有偏见的训练数据对分类器性能的影响，并探讨了如何利用公正约束的 Empirical Risk Minimization 算法来调整分类器以达到公平与精确度的平衡。具体而言，在选择 Equal Opportunity 以及使用 ERM 算法时能够达到 Bayes Optimal Classifier。

Dec, 2019

通过结合对抗学习和一种新颖的逆条件排列，我们介绍了一种公平学习方法，有效且灵活地处理多个敏感属性，可能包含不同数据类型，从而填补了当前研究中专注于单个敏感属性违反平衡几率的空白。通过模拟研究和对真实数据集的实证分析，我们展示了该方法的功效和灵活性。

Apr, 2024

提出一种新的公正性指标 EI (即平等的可改进性)，并且提出了三种算法来解决 EI 规则化优化问题。实验结果表明，使用 EI 指标可以实现长期公正性。

Oct, 2022

该研究提出了 AdaFair 算法，它可以有效地处理数据驱动的人工智能系统中的歧视问题，在平衡不足的情况下实现了性别、种族等保护属性的公平，同时保持预测性能。

Jan, 2022