二元分类中不公平行为的惩罚

Jun, 2017

Penalizing Unfairness in Binary Classification

Yahav Bechavod, Katrina Ligett

TL;DR本文提出了一种减轻学习分类器不公平性的新方法，特别关注来自两个群体的个体的二元分类任务，在我们的公平标准下，我们希望在两个群体中实现相似的误报率和漏报率。作为概念验证，我们实现了这种方法并从犯罪风险评估、信用、放贷和大学入学领域的数据集中对其进行了实证评估，以评估其实现公平性和精度的能力。

Abstract

We present a new approach for mitigating unfairness in learned classifiers. In particular, we focus on binary classification tasks over in

unfairness learned classifiers binary classification false positive rates false negative rates

发现论文，激发创造

差分隐私公正的二元分类

在本研究中，我们调查了在差分隐私和公平性的约束下的二元分类问题。我们首先提出了一种基于解耦技术的算法，用于学习一个只保证公平性的分类器。该算法接受在不同人口群体上训练的分类器，并生成一个满足统计平衡的单个分类器。然后，我们改进了该算法以加入差分隐私。在隐私、公平性和效用保证方面，对最终算法的性能进行了严格的检验。在 Adult 和 Credit Card 数据集上进行的实证评估显示，我们的算法在公平性保证方面优于现有技术，同时保持相同水平的隐私和效用。

Feb, 2024

二分类准确性与公平性关系探究

本研究重新审视了二元分类中准确性和公平性之间的权衡问题，提出了对非歧视分类器的比较需要考虑不同的阳性预测率，给出了对非歧视分类器进行合理比较的方法学建议，并在理论和实证分析中介绍了准确性和非歧视性之间的权衡。

May, 2015

利用标记和未标记的数据进行一致性公平二元分类

研究二分类问题中的公平问题，通过使用 “Equal Opportunity”，确保真正的阳性率在敏感组中分布均匀。通过重新校准贝叶斯分类器，获得公平最优分类器。提供了一组门槛的构造表达式，并基于无标签和有标签的数据集设计了一个插件分类过程，可以计算公平错误，同时在公平度量上保持统计一致性。

Jun, 2019

公平分类的规约方法

本文介绍了一个系统方法来在二元分类问题中实现公正性，该方法涵盖了许多先前研究的定义，将公平分类问题转化为成本敏感的分类问题序列，并引入两个新的降低方法来获得较优结果。

Mar, 2018

数据受限二元分类中平衡公平性与准确性

在处理敏感信息的应用程序中，数据限制可能会对机器学习（ML）分类器的可用数据施加限制，本文提出了一个框架，模拟了在四种实际情景下准确性和公平性之间的折衷，以确定在各种数据限制情况下，贝叶斯分类器的准确性受到的影响是如何的。

Mar, 2024

一种分布鲁棒的公平分类方法

提出了一种具有不公平惩罚的分布鲁棒逻辑回归模型，可以使用 Wasserstein ball 来对分布不确定性进行建模以实现公平机会并提高公平性。

Jul, 2020

针对个体和群体公平性的偏差缓解后处理

该研究提出了一种新的框架，能够在现实数据集中同时增加个体公平性和群体公平性，并展示了在信用、就业和刑事司法等应用中，在分类准确性、个体和群体公平性方面相比之前的工作表现更为优异。

Dec, 2018

带有部分反馈的在线分类的机会均等性

研究了一种在线分类问题，其中个体按固定但未知的分布一个接一个地到达，并必须被分类为积极或消极，算法只有在他们获得正分类时才会观察到个体的真实标签。该设置捕捉到许多分类问题，要求算法满足公平性约束.

Feb, 2019

分类中公平的代价

本文研究学习分类器的公平性约束问题并提出了三种解决方案，分别是将两个现有的公平性度量关联到成本敏感风险，显示了对于成本敏感分类和公平性度量的最优分类器是类概率函数的实例相关阈值，并展示了准确性和公平性之间的权衡是通过目标和敏感特征的类概率之间的一致性来确定的。支撑我们分析的是一个通用框架，将具有公平要求的学习问题建模为两种统计风险差异的最小化问题。

May, 2017

平均个体公平性：算法、泛化及实验

本研究提出一种基于个体和统计概念的新公平性定义族，设计了一种可以访问任何标准公平性无关的学习启发式算法的神谕有效算法，用于公平经验风险最小化任务，并且通过实验证明了其效果。

May, 2019