机器学习算法已被广泛应用在各种领域，然而由此带来的公平性问题在高风险案例（如人脸识别和医学影像分析）中引起了极大关注。本文针对深度神经网络中公平性的限制条件及其行为矫正方法的有效性进行了研究，实验结果表明，在特定公平度量下，大型模型会对公平的过度拟合而产生一系列意外和不良后果。

Feb, 2021

通过引入一种有效且鲁棒的微调框架来解决在新任务上进行预训练模型微调可能导致不公平结果的问题，该框架中融合了权重重要性中和策略和矩阵因子分解技术，通过实验验证了其有效性。

Mar, 2024

本论文开展了第一次大规模实证研究，全面比较了现有最先进的公平性改进技术的性能，结果显示不同方法在不同数据集和敏感属性上表现存在较大差异，且不同的公平评估指标产生显著不同的评估结果，其中预处理方法和内处理方法优于后处理方法，预处理方法表现最佳，本研究为深度学习模型公平性提供了全面的建议。

Jan, 2024

提出了一种基于神经网络的框架，使用拉格朗日乘数将公平性约束条件引入到损失函数中，以实现分类中的公平性，同时保持高精度。

Nov, 2018

在医学诊断等伦理敏感应用领域，以鲁棒的群体公平性训练模型至关重要。尽管有越来越多的研究旨在减少人工智能中的人口偏差，但这个问题仍然具有挑战性。公平性的泛化差距是这个挑战的原因之一：高容量的深度学习模型几乎可以完美地拟合所有训练数据，从而在训练过程中也表现出完美的公平性。在这种情况下，偏差仅在测试时出现，因为泛化表现在不同的子群体之间有差异。这激发了我们从双层优化的角度来看待公平学习：根据验证公平性来优化学习策略。具体而言，我们考虑采用适应预训练模型到下游医学图像任务的参数高效微调（PEFT）技术的高效工作流。在更新更多参数以更好地适应感兴趣的任务与更新更少参数以减少泛化差距之间存在权衡。为了处理这个权衡，我们提出了一个框架 FairTune，以优化与公平性相关的 PEFT 参数的选择。我们经验证明，FairTune 在一系列医学图像数据集上能够提高公平性。

Oct, 2023

本文提出了一种名为 FairReprogram 的通用公平学习范式，旨在消除机器学习模型中存在的人口统计偏差问题，该方法通过在输入数据中追加多组扰动向量，使得机器学习模型无法准确获取输入数据的真实信息从而达到公平的目标。实验证明此方法显著有效，并且效果比现有的基于重新训练权值的方法要好。

Sep, 2022

讨论如何使用因果贝叶斯网络和最优输运理论来处理机器学习公平性问题，尤其是在复杂的不公平场景下，提出了一种统一的框架来处理不同的情况和公平标准，并介绍了一种学习公平表示的方法和一种考虑敏感属性使用限制的技术。

Dec, 2020

从决策合理性角度出发，通过分析不同子组中神经元的影响，定义参数平衡分数来表征公平决策过程，提出了一种全新的公平性训练任务 - 决策合理性对齐，旨在使深度神经网络在中间层和最终预测时对子组的响应保持一致，提出了一种渐进式算法，即梯度引导的平衡对齐，可以显著提高公平性，同时保持准确性水平，且优于其他方法。

Jun, 2023

本文研究了使用公平性度量来指导模型的设计和训练的机制，提出了一种简单但可靠的方法，即在训练模型时同时实现公平，并通过详细的技术分析和实验验证了在计算机视觉训练任务中可靠地实现各种公平性度量。

Apr, 2020

通过对抗训练技术来开发更公平的深度神经网络 (DNNs) 以减轻已知存在的固有偏见。我们提出了一个强大的优化问题，并证明这可以改进多个数据集的公平性，包括合成数据和真实世界数据，使用一个仿射线性模型。通过利用二阶信息，我们能够比纯一阶方法更高效地找到优化问题的解决方案。

Jan, 2024