本研究提出一种旨在平衡公平性和实用性的机器学习分类任务的独特解决方案，它利用贝叶斯学习估计样本预测的不确定性，并通过不确定性量化来定义新型的公平性 - 效用目标，从而实现同时优化公平性和实用性。实证研究发现，具有低分类不确定性的样本比高不确定性的样本更准确、更公平。实验结果表明，该方法在公平性和实用性平衡方面表现优异，并有望在机器学习中实现最佳公平性和实用性。

Apr, 2023

使用机器学习来减少公平性差异和确保准确性在真实世界中的平衡是政策制定者关注的问题，本文通过实证研究发现，在教育、心理健康、刑事司法和住房安全等领域中使用后期处理措施来解决公平性问题，能够显著提高公平性而不牺牲准确性，实现在政策中使用机器学习的目的。

Dec, 2020

本文介绍了一种新的处理公平性的方法，通过建立一个随机多目标优化问题，得到一组准确且平衡的 Pareto 前沿，以此权衡准确度和公平性，以更高效地处理大量的流数据。

Aug, 2020

本文介绍了一个基于交互和隐私保护测试的框架，该框架允许对任何经过训练的模型进行公平程度的认证，无论其训练过程和架构如何，并且提供了一种加密技术来自动进行公平测试和认证推理，同时隐藏参与者的敏感数据。

Sep, 2020

在构建考虑人口统计公平性的分类系统时，需要满足两个目标：一是在特定任务中最大化效用，二是确保对已知人口统计属性的公平性。然而，这两个目标往往存在竞争，因此在优化两者时可能需要权衡。本文回答了两个问题：一是效用和公平之间的最佳权衡是什么？二是如何从数据中量化这些权衡以用于所需的预测任务和人口统计属性？我们引入了两种效用 - 公平权衡：数据空间权衡和标签空间权衡，并揭示了在效用 - 公平平面上的三个区域，界定了完全可能、部分可能和不可能的情况。基于这些权衡，我们提出了一种用于根据数据样本从量化预测任务和群体公平性定义的权衡的方法 U-FaTE。对超过 1000 个预训练模型中的公平表示方法和表示进行了广泛评估，结果显示大多数当前方法在多个数据集和预测任务上与估算和可实现的公平 - 效用权衡相距甚远。

Apr, 2024

在处理敏感信息的应用程序中，数据限制可能会对机器学习（ML）分类器的可用数据施加限制，本文提出了一个框架，模拟了在四种实际情景下准确性和公平性之间的折衷，以确定在各种数据限制情况下，贝叶斯分类器的准确性受到的影响是如何的。

Mar, 2024

讨论如何使用因果贝叶斯网络和最优输运理论来处理机器学习公平性问题，尤其是在复杂的不公平场景下，提出了一种统一的框架来处理不同的情况和公平标准，并介绍了一种学习公平表示的方法和一种考虑敏感属性使用限制的技术。

Dec, 2020

采用中立性原则，提出一个用于机器学习的管道的设计，在优化准确度的同时，不会偏向公平性或隐私，使用方法 FairDP-SGD 和 FairPATE 得到真正的 Pareto 前沿线。

Feb, 2023

机器学习在执法、刑事司法、金融、招聘和招生等领域的日益广泛应用，确保机器学习辅助决策的公平性变得越来越关键。本文以统计学的 “平等机会” 概念为基础，研究了公平性和准确性之间的折衷。我们提出了一个新的准确性上限（适用于任何分类器），并将其作为公平预算的函数。此外，我们的上限还与数据、标签和敏感群体属性的底层统计学关系密切相关。通过对三个真实世界数据集（COMPAS、成年人和法学院）进行经验分析，我们验证了我们理论上限的有效性。具体而言，我们将我们的上限与文献中各种现有公平分类器所实现的折衷情况进行了比较。我们的结果表明，在统计差异存在的情况下，实现高准确性条件下的低偏差可能从根本上受到限制。

May, 2024

本文提出了一种在线 multiplier bootstrap 方法，用于构建置信区间，以评估通过在线 SGD 类型算法训练具有 Disparate Impact 和 Disparate Mistreatment 意识的线性二元分类器的公平性，并在合成和实际数据集上说明了其结果。

Apr, 2023