机器学习在执法、刑事司法、金融、招聘和招生等领域的日益广泛应用，确保机器学习辅助决策的公平性变得越来越关键。本文以统计学的 “平等机会” 概念为基础，研究了公平性和准确性之间的折衷。我们提出了一个新的准确性上限（适用于任何分类器），并将其作为公平预算的函数。此外，我们的上限还与数据、标签和敏感群体属性的底层统计学关系密切相关。通过对三个真实世界数据集（COMPAS、成年人和法学院）进行经验分析，我们验证了我们理论上限的有效性。具体而言，我们将我们的上限与文献中各种现有公平分类器所实现的折衷情况进行了比较。我们的结果表明，在统计差异存在的情况下，实现高准确性条件下的低偏差可能从根本上受到限制。
May, 2024
本文对教育数据挖掘中不同组公平措施和学生表现预测模型进行比较，发现公平措施和成绩阈值的选择对模型的预测效果具有重要影响。
Aug, 2022
将公平性问题重新解释为一种基于超级公平性目标的模仿学习任务，以同时提高决策的准确性和公平性。
Jan, 2023
本文主要论述机器学习中公平性问题，提出三种公平模型：无意识公平、人口统计学公平和反事实公平，并在认识情境演算中进行了形式化的定义。
Jun, 2023
本文利用在线随机决策过程实现近似群体公平，其中公平度量考虑到等于几率。通过经典的专家学习方案，通过一个有限的分类器集的基础上运行该算法的单个实例，为标签类和敏感群体运行单独的算法实例，通过一些理论结果表明，在不损失太多遗憾的情况下，可以实现近似的等几率结构。
Aug, 2019
本文旨在调查研究自动化决策系统中机器学习算法存在的偏差及其与公平、隐私和分类准确性之间的关系，并综述了处理公平 - 准确性权衡的不同方法。作者通过实验分析了公平度量和准确度在现实世界场景中的关系。
Sep, 2022
本文探讨了基于因果关系的公平性概念及其在实际场景中的适用性，并针对采用观察数据估计因果量的不同方法，包括可辨识性和潜在结果框架进行了综合报告，提供出一个指南来帮助选择适合特定实际场景的公平性概念，并根据 Pearl 的因果推理难度对公平性概念进行了排名。
Oct, 2020
本文研究算法公平性在机器学习中的应用，并提出了衡量和解决算法公平性问题的新方法，包括公平性指标和模型训练优化。
Jan, 2019
随着人工智能在影响人类和社会的决策中扮演越来越重要的角色，自动化决策系统的问责制越来越受到研究人员和从业者的关注。然而，在评估公平性方面，文献中存在着大量采用不同视角和假设的公平度量标准，这通常是不兼容的。本文提出了一个新的等混乱公平测试来检查自动化决策系统的公平性，并提出了一个新的混淆平等误差来量化任何不公平性的程度。通过对自动化决策系统 COMPAS 进行案例研究，证明了这里提供的测试、度量和事后分析的实用性。
Jul, 2023
本文提出了两个算法，通过因果模型和反事实决策来实现公平的机器学习预测器，以实现提供平等机会和重修历史劣势。在包括招生、收入、信用和再犯等领域的数据集上进行评估与权衡，结果表明这些预测器在理论上达到了预测性能的最优，同时满足公平性。
May, 2019