基于重复损失最小化的公平性无需人口统计信息

ICMLJun, 2018

基于重复损失最小化的公平性无需人口统计信息

Fairness Without Demographics in Repeated Loss Minimization

Tatsunori B. Hashimoto, Megha Srivastava, Hongseok Namkoong, Percy Liang

TL;DR通过采用分布式鲁棒优化的方法，我们可以在不考虑特定群体身份的情况下控制少数群体的风险水平，从而避免了现有的经验风险最小化方法在时间推移中导致的表征偏差加剧。在一个真实的文本自动完成任务中，这种方法提高了少数群体用户的满意度。

Abstract

machine learning models (e.g., speech recognizers) are usually trained to minimize average loss, which results in representation disparity---minority groups (e.g., non-native speakers) contribute less to the trai

machine learning representation disparity distributionally robust optimization minority group user satisfaction

发现论文，激发创造

专注于共同利益：团体分布稳健性的追求

本论文探讨的是使用组注释的数据进行分类模型训练的问题，提出了一个新的算法，旨在通过鼓励学习跨各种组共享的特征来提高少数族裔的性能。通过在标准基准测试中进行实证研究，证明了本文提出的算法在不同组别和少数族裔上的表现要好于 ERM 和 Group-DRO 等强基线。同时，论文也从理论上证明了所提出算法是一种下降方法，并且可以找到平稳点。

Oct, 2021

基于极小极大博弈的 Q-Diversity 鲁棒优化模型

本研究旨在解决传统风险最小化（ERM）有偏学习的问题，通过提出基于参数化的 Q-Diversity 框架，利用交互训练模式和新型跨组混合策略实现了减小预定义组之间误差的作用，并通过实验结果验证其在文本分类任务中有效提高了最差情况下的准确性。

May, 2023

如何恢复有偏数据：公平约束是否能提高准确性？

考虑机器学习分类器对不同民族、群体的不公平对待问题，本文提出了公正约束的多种方式，以及带有偏见的训练数据对分类器性能的影响，并探讨了如何利用公正约束的 Empirical Risk Minimization 算法来调整分类器以达到公平与精确度的平衡。具体而言，在选择 Equal Opportunity 以及使用 ERM 算法时能够达到 Bayes Optimal Classifier。

Dec, 2019

有界种族差异的极小极大公平分类

控制统计机器学习方法的不公平影响是确保公平性的关键。本文探讨了具有两个受保护群体的公平二分类的统计基础，重点是控制人口统计差异，并提出了一种量化公平性约束影响的新方法。

Mar, 2024

使用机器学习进行序列决策时的群体留存：用户动态与公平性的相互作用

探讨多个人口群体数据训练的机器学习模型容易存在表征失调，选择公平性标准对用户动态影响的必要性，防止在样本池中某些群体的逐渐消失和表征差距不断恶化的问题。基于一般的用户动态模型，选择合适的公平标准。

May, 2019

稳健对数损失分类的公平性

采用最坏情况下的对数损失最小化方法将公平性标准纳入分布鲁棒性的第一原则，并基于此原则推导出一种新的分类器，该方法具有凸性和渐近收敛性，并在三个基准公平数据集上展示了其实践优势。

Mar, 2019

以 Wasserstein 距离为指导的对抗性权重调整用于偏见缓解

通过对抗再加权方法来解决机器学习中的表征偏差，平衡数据分布以减少对少数群体的不公正对待，从而提高分类准确性和公平性。

Nov, 2023

关于对抗偏差和公正机器学习的鲁棒性

为保证公正性，公平机器学习算法致力于消除不同群体间的行为差异，但是研究表明，在训练数据存在偏差的情况下，将同等的重视不同规模和分布的不同群体，可能会与鲁棒性相冲突，攻击者可以通过对样本和标签的控制来攻击群体公平性机器学习，从而在测试数据上显著降低测试准确率，本文评估了多种算法和基准数据集的攻击，分析了公平机器学习的鲁棒性。

Jun, 2020

公平信用评分的分布鲁棒优化方法

应用分布鲁棒优化方法 (DRO) 研究信用评分，评估其在公平性、正确分类能力和解决边际比例变动时解决方案的稳健性方面的表现，结果显示 DRO 方法在公平性方面有显著改进，并且几乎不损失性能。但需要进一步完善有效实施这些系统。研究还指出，在信用评分环境中，许多常用的公平性指标并不适用，因为它们依赖于分类阈值的选择。

Feb, 2024

有条件的公平表达学习

本篇研究旨在提出一种新算法，用于学习公平的表征，以在分类环境下同时缓解不同人口统计特征子组之间的两种不平等概念。通过平衡误差率和条件对齐的表征等两个关键组件，它对确保跨组别的准确平等性和平衡假阳性和假阴性率发挥了作用。此外，我们还通过理论和两个实际实验证明，与现有的学习公平表征的算法相比，在平衡数据集上提出的算法可以在保持效用公平性的前提下得到更好的公平性。

Oct, 2019