公平 ROAD：对抗去偏的鲁棒优化

Oct, 2023

On the Fairness ROAD: Robust Optimization for Adversarial Debiasing

Vincent Grari, Thibault Laugel, Tatsunori Hashimoto, Sylvain Lamprier, Marcin Detyniecki

TL;DR该研究致力于解决局部公平性问题，引入了 ROAD 方法，结合了分布鲁棒优化框架和公平对抗学习目标，从而实现了在整个人口和特征空间的任何子区域内预测的无偏性。实证实验证明该方法在三个标准数据集上实现了局部公平性和准确性的帕累托优势，并在分布转移下增强了公平性的推广能力。

Abstract

In the field of algorithmic fairness, significant attention has been put on group fairness criteria, such as Demographic Parity and Equalized Odds. Nevertheless, these objectives, measured as global averages, hav

algorithmic fairness group fairness local fairness distributionally robust optimization fair adversarial learning

发现论文，激发创造

基于重新加权的类内鲁棒优化的群体公平正则化

提出一种融合分布式鲁棒优化（DRO）框架和公平度量的基于迭代优化算法的方法，称为 FairDRO，通过自动产生正确的重新加权为每个组来最小化该方法，实验结果显示我们的方法在准确性公平交换上，相对于近期的强基线方法在多项基准数据集上表现出具有实现性和易适应性的状态表现。

Mar, 2023

在有限敏感属性条件下的公平推荐：一种分布鲁棒优化方法

我们提出了分布鲁棒的公平优化（DRFO）方法，通过最小化所有潜在概率分布中最坏情况下的不公平性，而不是重建后的敏感属性的概率分布，来确保在只有有限敏感属性可获取的情况下，推荐系统中的公平性。

May, 2024

RobustFair: 公平困惑导向的对抗评估梯度搜索

提出了一种使用 “fairness confusion” 概念的方法来平衡准确性和个体公平性之间的关系，使用由 “fairness confusion directed gradient search” 制作的敌对扰动的方法来改善深层神经网络的 “accurate fairness”，提高准确性和个体公平性。

May, 2023

关于对抗偏差和公正机器学习的鲁棒性

为保证公正性，公平机器学习算法致力于消除不同群体间的行为差异，但是研究表明，在训练数据存在偏差的情况下，将同等的重视不同规模和分布的不同群体，可能会与鲁棒性相冲突，攻击者可以通过对样本和标签的控制来攻击群体公平性机器学习，从而在测试数据上显著降低测试准确率，本文评估了多种算法和基准数据集的攻击，分析了公平机器学习的鲁棒性。

Jun, 2020

公平信用评分的分布鲁棒优化方法

应用分布鲁棒优化方法 (DRO) 研究信用评分，评估其在公平性、正确分类能力和解决边际比例变动时解决方案的稳健性方面的表现，结果显示 DRO 方法在公平性方面有显著改进，并且几乎不损失性能。但需要进一步完善有效实施这些系统。研究还指出，在信用评分环境中，许多常用的公平性指标并不适用，因为它们依赖于分类阈值的选择。

Feb, 2024

快速与公平：机器学习中公平性的高效二阶鲁棒优化

通过对抗训练技术来开发更公平的深度神经网络 (DNNs) 以减轻已知存在的固有偏见。我们提出了一个强大的优化问题，并证明这可以改进多个数据集的公平性，包括合成数据和真实世界数据，使用一个仿射线性模型。通过利用二阶信息，我们能够比纯一阶方法更高效地找到优化问题的解决方案。

Jan, 2024

通过对抗属性邻域强化学习实现公平

提出一种基于 Robust Adversarial Attribute Neighbourhood (RAAN) Loss 的公平分类模型优化方法，将样本划分为不同的敏感属性群组并使用对抗性的鲁棒权重来调整模型，达到不同群组之间分布更公平的目的。并提出了 stochastic adaptive (Adam-style) 和 non-adaptive (SGD-style) 算法框架，具有可证明的理论保证，实验证明该方法有效。

Oct, 2022

公平性增加对抗性漏洞性

本篇论文研究了深度学习模型在公平性和鲁棒性交叉应用中面临的挑战，并探讨了取得公平性如何降低模型对抗采样的鲁棒性的现象。作者提出了一种简单而有效的解决方案来平衡公平性和鲁棒性之间的权衡关系。

Nov, 2022

一种分布鲁棒的公平分类方法

提出了一种具有不公平惩罚的分布鲁棒逻辑回归模型，可以使用 Wasserstein ball 来对分布不确定性进行建模以实现公平机会并提高公平性。

Jul, 2020

基于人口平衡的公平学习算法的归纳偏差

研究通过敏感属性的少量依赖分配标签的公平监督学习算法在机器学习界引起了极大关注。本文分析了标准的基于 DP 的正则化方法对给定敏感属性的预测标签的条件分布的影响，并提出了一种基于敏感属性的分布鲁棒优化方法以改善对敏感属性边际分布的鲁棒性，数值实验结果支持了理论结果及所提出的方法的去偏效果。

Feb, 2024