本研究提出一种旨在平衡公平性和实用性的机器学习分类任务的独特解决方案，它利用贝叶斯学习估计样本预测的不确定性，并通过不确定性量化来定义新型的公平性 - 效用目标，从而实现同时优化公平性和实用性。实证研究发现，具有低分类不确定性的样本比高不确定性的样本更准确、更公平。实验结果表明，该方法在公平性和实用性平衡方面表现优异，并有望在机器学习中实现最佳公平性和实用性。

Apr, 2023

机器学习公平性经常导致准确率下降，我们提出了一种基于数据集的高效方法来逼近公平性 - 准确性权衡曲线，并通过引入置信区间来量化逼近的不确定性，从而为各种数据模态下的数据集特定公平决策提供了一种有原则的框架。

Feb, 2024

机器学习系统可能基于性别、性别、宗教或种族等敏感特征表现出歧视行为，因此提出了各种公平性概念和量化歧视方法，并发展了构建公平预测器的众多方法。本研究首次从因果角度分析了公平性和准确性之间的紧张关系，提出了路径特定过量损失（PSEL）的概念来衡量当强制施加因果公平性约束时预测器的损失增加程度，并证明了总过量损失（TEL）可以分解为更多本地 PSEL 值的总和。同时，强制施加因果约束通常会减少人群之间的差距。因此，我们引入了一个数量，用于总结公平性和效用之间的权衡，称为因果公平 / 效用比，定义为减少歧视与约束因果路径产生的过量损失之间的比值。最后，由于我们的方法需要具有因果约束的公平预测器，我们介绍了一种新的用于因果约束公平学习的神经方法。

May, 2024

我们提出了一种通用诊断方法，可以系统性地表征组公平性中的权衡，并通过在混淆矩阵中考虑受保护属性的值来实现多个权衡的优化。这种方法有助于重新设计公平的分类器。在合成和真实数据集上，我们演示了我们的诊断工具的应用情况，尤其是在理解准确性和公平性之间的权衡方面。

Apr, 2020

本文介绍了一种新的处理公平性的方法，通过建立一个随机多目标优化问题，得到一组准确且平衡的 Pareto 前沿，以此权衡准确度和公平性，以更高效地处理大量的流数据。

Aug, 2020

本文研究了分类问题中的公平性和准确性之间的权衡，并提供了任何公平分类器群体误差和任何（近似）公平分类器的联合误差的下限，从公平表示学习角度推广这个结果。

Jun, 2019

机器学习模型在决策和政策操作中被部署为核心组件，对个人生活产生直接影响。为了在道德上行事并遵守政府监管，这些模型需要做出公平的决策并保护用户的隐私。然而，这些要求可能会导致模型性能下降，与其潜在的偏向和隐私泄露对应模型相比。因此，公平性、隐私性和机器学习模型性能之间的权衡成为一个问题，从而需要一种方法来量化这种权衡以便进行部署决策。在这项工作中，我们将这种权衡解释为一个多目标优化问题，并提出了 PFairDP，这是一个使用贝叶斯优化的流水线，用于发现在公平性、隐私性和机器学习模型效用之间的帕累托最优点。我们展示了如何使用 PFairDP 复制通过手动约束设置过程实现的已知结果。我们进一步通过对多个模型和数据集进行实验，证明了 PFairDP 的有效性。

Nov, 2023

本研究提出了一种新型的公平训练算法，该算法在尽可能保护个人隐私的情况下，避免了在机器学习模型中存在不良社会偏见的问题。实验结果显示，该算法可以有效降低社会偏见问题。

Jun, 2021

机器学习在执法、刑事司法、金融、招聘和招生等领域的日益广泛应用，确保机器学习辅助决策的公平性变得越来越关键。本文以统计学的 “平等机会” 概念为基础，研究了公平性和准确性之间的折衷。我们提出了一个新的准确性上限（适用于任何分类器），并将其作为公平预算的函数。此外，我们的上限还与数据、标签和敏感群体属性的底层统计学关系密切相关。通过对三个真实世界数据集（COMPAS、成年人和法学院）进行经验分析，我们验证了我们理论上限的有效性。具体而言，我们将我们的上限与文献中各种现有公平分类器所实现的折衷情况进行了比较。我们的结果表明，在统计差异存在的情况下，实现高准确性条件下的低偏差可能从根本上受到限制。

May, 2024

本文提出了一种信息理论动机的目标函数，用于学习在公平约束条件下最具表达力的数据表示，旨在通过控制不公平性极限的方式帮助用户控制数据表示的公平性，证明了现有方法无法完全实现此目标，通过引入一种优化模型参数和表达力 - 公平性权衡的方法来平衡多种公平概念的权衡，并在更低的计算成本下实现更高的表达能力。

Dec, 2018