公平感知梯度下降

Jun, 2022

FairGrad: Fairness Aware Gradient Descent

Gaurav Maheshwari, Michaël Perrot

TL;DR本研究提出了一种名为 FairGrad 的方法，实现了对一个群体内部的公平性。通过可迭代地学习基于群体权重的重新加权方案，FairGrad 可以很容易地实现，并可以适用于各种标准公平性定义，同时在各种数据集上都取得了可比较的成果。

Abstract

We tackle the problem of group fairness in classification, where the objective is to learn models that do not unjustly discriminate against subgroups of the population. Most existing approaches are limited to simple binary tasks or involve difficult to implement training mechanisms. Th

group fairness discrimination fairgrad reweighting scheme standard fairness definitions

发现论文，激发创造

个体公平梯度提升

该研究采用函数梯度下降法实现在梯度提升中的个体公平性问题，并证明了该算法在决策树等非平滑模型上的泛化性和有效性。

Mar, 2021

梯度反转与歧视

本文通过引入 GRAD，一种新的设置公平的神经网络的简化方法，使得神经网络能够被用于公平表示或与预测网络直接使用。GRAD 易于实现，只有一个超参数，提供了个体和集体公平性的改进，并且能够演示多属性保护。

Jul, 2018

基于重新加权的类内鲁棒优化的群体公平正则化

提出一种融合分布式鲁棒优化（DRO）框架和公平度量的基于迭代优化算法的方法，称为 FairDRO，通过自动产生正确的重新加权为每个组来最小化该方法，实验结果显示我们的方法在准确性公平交换上，相对于近期的强基线方法在多项基准数据集上表现出具有实现性和易适应性的状态表现。

Mar, 2023

自适应优先权重新加权以提高公平性泛化

通过提出一种新颖的自适应重新加权方法，该论文旨在消除训练和测试数据之间分布变化对模型普适能力的影响，进而改善算法的公平性和泛化性能。实验证明了该方法在准确性和公平性度量方面的普适性，并突出了对语言和视觉模型公平性改善的性能提升。

Sep, 2023

公平分类中的改进式对抗学习

该研究利用博弈论中的概念，提出了一种逐步提高分类器公平性的方法，并通过实验表明该方法的公平性性能显著优于其他算法。

Jan, 2019

通过分组学习：一种多层次优化框架，提高分类公平性而不损失准确性

本文提出了一种新的机器学习框架，旨在为实现公正和准确性而学习分组，从而减少 ML 模型在特定人群中的偏见和歧视，并在各种数据集上实现了最新技术的改进。

Apr, 2023

面部属性分类的公平感知梯度修剪方法 FairGRAPE

本文提出了一种新的剪枝方法，称为公平感知梯度剪枝方法（FairGRAPE），以平衡不同子组在神经网络压缩过程中可能存在的影响，该方法在面部属性分类任务中对四个数据集（FairFace，UTKFace，CelebA 和 ImageNet）进行了测试，在高剪枝率（99%）的情况下比其他最先进的剪枝算法减少了达到 90% 的性能下降差异。

Jul, 2022

通过平衡影响训练公平的深度神经网络

我们提出了一个名为 FAIRIF 的两阶段训练算法，它可以应用于一系列使用随机梯度下降训练的模型，并通过在小型验证集上计算样本权重来实现跨不同人口群体的模型性能平衡，从而缓解先前机器学习算法中存在的不公平问题。在合成数据集和实际数据集上的实验表明，FAIRIF 可以在牺牲很少的模型实用性的情况下实现更好的公平性 - 实用性权衡。

Jan, 2022

AdaFair: 累积公平自适应提升算法

研究机器学习如何处理公平性和防止基于敏感属性的预测性歧视问题，并提出一种名为 AdaFair 的基于 AdaBoost 分类器的方法，该方法显式地处理类别不平衡并在维持分类准确性的同时优化公平性，实验证明其在平衡错误方面比现有的公平性方法表现显著好 25％。

Sep, 2019

基于 Wasserstein 独立性的公平文本分类

该论文提出了一种新的方法来减轻神经文本分类中的偏见，它能够在处理公正性问题时不需要敏感属性的注释，与现有的方法相比具有可比较或更好的公正性和准确性权衡。

Nov, 2023