公平监督学习的损失平衡

ICMLNov, 2023

Loss Balancing for Fair Supervised Learning

Mohammad Mahdi Khalili, Xueru Zhang, Mahed Abroshan

TL;DR通过使用现成的凸规划工具（如 CVXPY），本文提出了 ELminimizer 算法，通过将非凸优化问题转化为一系列凸优化问题，高效地找到满足等效损失约束条件下的全局最优公平预测器，并通过多个实证研究支持我们的理论结果。

Abstract

supervised learning models have been used in various domains such as lending, college admission, face recognition, natural language processing, etc. However, they may inherit pre-existing biases from training data and exhibit discrimination against protected social groups. Various fair

supervised learning models fairness notion equalized loss elminimizer algorithm convex programming tools

发现论文，激发创造

具有凸罚项的公平广义线性模型

本文提出两种 GLMs 的公平性标准，即基于期望结果或对数似然函数的平等化，证明了对于 GLMs，两个标准都可以通过只基于 GLM 的线性组成部分的凸罚项实现，从而允许高效的优化。同时，给出了导致公平 GLM 估计器的理论性质。

Jun, 2022

稳健对数损失分类的公平性

采用最坏情况下的对数损失最小化方法将公平性标准纳入分布鲁棒性的第一原则，并基于此原则推导出一种新的分类器，该方法具有凸性和渐近收敛性，并在三个基准公平数据集上展示了其实践优势。

Mar, 2019

关于对抗偏差和公正机器学习的鲁棒性

为保证公正性，公平机器学习算法致力于消除不同群体间的行为差异，但是研究表明，在训练数据存在偏差的情况下，将同等的重视不同规模和分布的不同群体，可能会与鲁棒性相冲突，攻击者可以通过对样本和标签的控制来攻击群体公平性机器学习，从而在测试数据上显著降低测试准确率，本文评估了多种算法和基准数据集的攻击，分析了公平机器学习的鲁棒性。

Jun, 2020

公平精确性平衡下的内在公平性 - 准确性权衡

机器学习在执法、刑事司法、金融、招聘和招生等领域的日益广泛应用，确保机器学习辅助决策的公平性变得越来越关键。本文以统计学的 “平等机会” 概念为基础，研究了公平性和准确性之间的折衷。我们提出了一个新的准确性上限（适用于任何分类器），并将其作为公平预算的函数。此外，我们的上限还与数据、标签和敏感群体属性的底层统计学关系密切相关。通过对三个真实世界数据集（COMPAS、成年人和法学院）进行经验分析，我们验证了我们理论上限的有效性。具体而言，我们将我们的上限与文献中各种现有公平分类器所实现的折衷情况进行了比较。我们的结果表明，在统计差异存在的情况下，实现高准确性条件下的低偏差可能从根本上受到限制。

May, 2024

保护受保护群体：规避有害公平性

介绍了一种名为 Welfare-Equalizing 的公平算法，旨在保护受保护群体。该方法提供了一种公平性数据分类的统一框架，以及一种计算最优分类器的算法。

May, 2019

通过神经网络实现公平性的 FNNC

提出了一种基于神经网络的框架，使用拉格朗日乘数将公平性约束条件引入到损失函数中，以实现分类中的公平性，同时保持高精度。

Nov, 2018

执行延迟影响公平性保证

本研究介绍了 ELF 分类算法，通过考虑决策在人们的生活和福祉中所产生的长期影响，提供高可信的公平性保证，并证明了 ELF 返回不公平解决方案的概率小于用户指定的公差。同时我们的实验表明该算法能够成功地缓解长期的不公平现象。

Aug, 2022

学习可控的公平表征

本文提出了一种信息理论动机的目标函数，用于学习在公平约束条件下最具表达力的数据表示，旨在通过控制不公平性极限的方式帮助用户控制数据表示的公平性，证明了现有方法无法完全实现此目标，通过引入一种优化模型参数和表达力 - 公平性权衡的方法来平衡多种公平概念的权衡，并在更低的计算成本下实现更高的表达能力。

Dec, 2018

如何恢复有偏数据：公平约束是否能提高准确性？

考虑机器学习分类器对不同民族、群体的不公平对待问题，本文提出了公正约束的多种方式，以及带有偏见的训练数据对分类器性能的影响，并探讨了如何利用公正约束的 Empirical Risk Minimization 算法来调整分类器以达到公平与精确度的平衡。具体而言，在选择 Equal Opportunity 以及使用 ERM 算法时能够达到 Bayes Optimal Classifier。

Dec, 2019

FairALM: 用增广 Lagrangian 方法训练公平模型，减少悔恨

本文研究了使用公平性度量来指导模型的设计和训练的机制，提出了一种简单但可靠的方法，即在训练模型时同时实现公平，并通过详细的技术分析和实验验证了在计算机视觉训练任务中可靠地实现各种公平性度量。

Apr, 2020