基于重新加权的类内鲁棒优化的群体公平正则化

Mar, 2023

基于重新加权的类内鲁棒优化的群体公平正则化

Re-weighting Based Group Fairness Regularization via Classwise Robust Optimization

Sangwon Jung, Taeeon Park, Sanghyuk Chun, Taesup Moon

TL;DR提出一种融合分布式鲁棒优化（DRO）框架和公平度量的基于迭代优化算法的方法，称为 FairDRO，通过自动产生正确的重新加权为每个组来最小化该方法，实验结果显示我们的方法在准确性公平交换上，相对于近期的强基线方法在多项基准数据集上表现出具有实现性和易适应性的状态表现。

Abstract

Many existing group fairness-aware training methods aim to achieve the group fairness by either re-weighting underrepresented groups based on certain rules or using weakly approximated surrogates for the

group fairness training methods fairness metrics optimization performance

发现论文，激发创造

专注于共同利益：团体分布稳健性的追求

本论文探讨的是使用组注释的数据进行分类模型训练的问题，提出了一个新的算法，旨在通过鼓励学习跨各种组共享的特征来提高少数族裔的性能。通过在标准基准测试中进行实证研究，证明了本文提出的算法在不同组别和少数族裔上的表现要好于 ERM 和 Group-DRO 等强基线。同时，论文也从理论上证明了所提出算法是一种下降方法，并且可以找到平稳点。

Oct, 2021

公平感知梯度下降

本研究提出了一种名为 FairGrad 的方法，实现了对一个群体内部的公平性。通过可迭代地学习基于群体权重的重新加权方案，FairGrad 可以很容易地实现，并可以适用于各种标准公平性定义，同时在各种数据集上都取得了可比较的成果。

Jun, 2022

排名与重新加权改善组分布鲁棒性

本文提出了一种基于 Discounted Cumulative Gain（DCG）评估模型质量的方法，并建议了 Discounted Rank Upweighting（DRU）训练方法以提高模型的品质，在实验中结果表明，这种基于组排名的训练方法能够选择和学习出对组分布性变化具有鲁棒性的模型。

May, 2023

公平 ROAD：对抗去偏的鲁棒优化

该研究致力于解决局部公平性问题，引入了 ROAD 方法，结合了分布鲁棒优化框架和公平对抗学习目标，从而实现了在整个人口和特征空间的任何子区域内预测的无偏性。实证实验证明该方法在三个标准数据集上实现了局部公平性和准确性的帕累托优势，并在分布转移下增强了公平性的推广能力。

Oct, 2023

具有噪声保护组的公平鲁棒优化

研究机器学习的公平性标准，提出一种使用鲁棒优化的新方法来处理受保护群体的嘈杂标签问题，并经实验验证，该方法能更好地保证在真实受保护群体上的公平性标准。

Feb, 2020

公平信用评分的分布鲁棒优化方法

应用分布鲁棒优化方法 (DRO) 研究信用评分，评估其在公平性、正确分类能力和解决边际比例变动时解决方案的稳健性方面的表现，结果显示 DRO 方法在公平性方面有显著改进，并且几乎不损失性能。但需要进一步完善有效实施这些系统。研究还指出，在信用评分环境中，许多常用的公平性指标并不适用，因为它们依赖于分类阈值的选择。

Feb, 2024

一种分布鲁棒的公平分类方法

提出了一种具有不公平惩罚的分布鲁棒逻辑回归模型，可以使用 Wasserstein ball 来对分布不确定性进行建模以实现公平机会并提高公平性。

Jul, 2020

自适应优先权重新加权以提高公平性泛化

通过提出一种新颖的自适应重新加权方法，该论文旨在消除训练和测试数据之间分布变化对模型普适能力的影响，进而改善算法的公平性和泛化性能。实验证明了该方法在准确性和公平性度量方面的普适性，并突出了对语言和视觉模型公平性改善的性能提升。

Sep, 2023

具有概率群的分布鲁棒优化

本文提出了一种新的概率组成员身份的框架 PG-DRO，以解决现代机器学习模型易受特定样本组内平均相关性的干扰的问题，通过考虑软组成员身份而不是硬组注释，该框架可以灵活生成组概率，从而更好地适应样本组成员身份模糊的情况，并在图像分类和自然语言处理基准测试中得到了优越性能。

Mar, 2023

FORML: 学习为公平性重新加权数据

本篇论文介绍了通过元学习实现的公平优化权重算法（FORML），可以通过动态地重新加权数据来平衡过度和欠表示子群的贡献，并提高模型的公平性和鲁棒性，同时保持原本预测指标的准确性，特别适用于图像分类任务，有助于构建更公平的数据集。

Feb, 2022