在公平约束下的经验风险最小化

Feb, 2018

Empirical Risk Minimization under Fairness Constraints

Michele Donini, Luca Oneto, Shai Ben-David, John Shawe-Taylor, Massimiliano Pontil

TL;DR介绍了一种基于经验风险最小化的算法，通过将公平性约束条件融入到学习问题中，实现敏感变量不会不公平地影响分类器的结果，得出了公平性和风险的界限，对核方法进行了特定说明，发现公平性要求意味着正交性约束，此约束可轻松添加到这些方法中，特别是对于线性模型，约束转化为一个简单的数据预处理步骤，实验证明该算法具有实用性，表现优于最先进的方法。

Abstract

We address the problem of algorithmic fairness: ensuring that sensitive variables do not unfairly influence the outcome of a classifier. We present an approach based on empirical risk minimization, which incorpor

algorithmic fairness classifier outcome empirical risk minimization fairness constraint orthogonality constraint

发现论文，激发创造

通用的公平经验风险最小化

本文提出了一种处理包含连续敏感属性的回归算法中避免敏感信息不公平影响的公平经验风险最小化方法，并将其泛化到标准有监督学习的整个情境中，该方法在进行知名的平等概念的实证风险最小化情境时可以减少公平度量；同时该文构建了一种可以针对内核方法进行共性公平估计的方法，并通过对公共数据集和来自五千名学生的新数据集的实验结果显示其实现了精度和公平要求之间的有效平衡。

Jan, 2019

如何恢复有偏数据：公平约束是否能提高准确性？

考虑机器学习分类器对不同民族、群体的不公平对待问题，本文提出了公正约束的多种方式，以及带有偏见的训练数据对分类器性能的影响，并探讨了如何利用公正约束的 Empirical Risk Minimization 算法来调整分类器以达到公平与精确度的平衡。具体而言，在选择 Equal Opportunity 以及使用 ERM 算法时能够达到 Bayes Optimal Classifier。

Dec, 2019

分类中公平的代价

本文研究学习分类器的公平性约束问题并提出了三种解决方案，分别是将两个现有的公平性度量关联到成本敏感风险，显示了对于成本敏感分类和公平性度量的最优分类器是类概率函数的实例相关阈值，并展示了准确性和公平性之间的权衡是通过目标和敏感特征的类概率之间的一致性来确定的。支撑我们分析的是一个通用框架，将具有公平要求的学习问题建模为两种统计风险差异的最小化问题。

May, 2017

公平风险度量

本研究提出了一个新的公平定义，通过对敏感特征感兴趣的亚组的期望损失进行衡量，从而实现了通用的敏感特征以及凸性目标的结果。该目标是基于条件风险最小化构建的，这与数学金融中风险度量的丰富文献相关。

Jan, 2019

费米博士：一种随机分布鲁棒公平经验风险最小化框架

提出了首个具有收敛保证的随机分布鲁棒公平性框架，不需要对因果图的了解，在分布转移的环境中将公平推断制定为 $L_p$ 范数不确定性集合下的分布鲁棒优化问题。

Sep, 2023

稳健对数损失分类的公平性

采用最坏情况下的对数损失最小化方法将公平性标准纳入分布鲁棒性的第一原则，并基于此原则推导出一种新的分类器，该方法具有凸性和渐近收敛性，并在三个基准公平数据集上展示了其实践优势。

Mar, 2019

平均个体公平性：算法、泛化及实验

本研究提出一种基于个体和统计概念的新公平性定义族，设计了一种可以访问任何标准公平性无关的学习启发式算法的神谕有效算法，用于公平经验风险最小化任务，并且通过实验证明了其效果。

May, 2019

极小化帕累托公平性：一个多目标视角

本研究将群体公平性形式化为一个多目标优化问题，并提出一种公平性标准和优化算法，在深度神经网络上进行测试并展示如何减少最坏情况下的分类错误。

Nov, 2020

临床风险预测公平机器学习的实证表征

该研究探讨了使用机器学习指导临床决策可能加剧现有的健康差距问题的潜力，并分析了算法公平的适用性、技术限制以及与机器学习在医疗保健中使用相关的社会技术背景。研究结果表明，在对各组之间的预测分布差异进行惩罚的情况下，几乎所有团体内的多项绩效指标都会降低，并且算法公平性方法在消除健康差距方面仍存在许多有待解决的问题。

Jul, 2020

数据受限二元分类中平衡公平性与准确性

在处理敏感信息的应用程序中，数据限制可能会对机器学习（ML）分类器的可用数据施加限制，本文提出了一个框架，模拟了在四种实际情景下准确性和公平性之间的折衷，以确定在各种数据限制情况下，贝叶斯分类器的准确性受到的影响是如何的。

Mar, 2024