Dec, 2023

公平约束对偏见数据恢复的辅助程度有多大？

PDF
TL;DR通过阈值为基础的最优公平分类器的特征，本文给出了 Blum & Stangl (2019) 结果的另一证明，并证明了其对于偏倚参数的条件既是必要的又是充分的。此外，我们还证明了对于任意数据分布，只要优化准确分类器在假设类别中是公平和稳健的，那么在偏倚分布上进行公平分类就可以恢复该分类器，前提是偏倚参数满足一定的简单条件。
data bias modelunder-representationlabel biasfair classificationequal opportunity constraints
发现论文，激发创造
  • 如何恢复有偏数据：公平约束是否能提高准确性？

    考虑机器学习分类器对不同民族、群体的不公平对待问题，本文提出了公正约束的多种方式，以及带有偏见的训练数据对分类器性能的影响，并探讨了如何利用公正约束的 Empirical Risk Minimization 算法来调整分类器以达到公平与精确度的平衡。具体而言，在选择 Equal Opportunity 以及使用 ERM 算法时能够达到 Bayes Optimal Classifier。

    Dec, 2019

  • 关于在数据偏差下测试和比较公平分类器

    本文针对注入数据偏差的理论模型，从理论和经验上研究了它对公平分类器准确性和公正性的影响，并证明了在重新加权偏差注入分布上最小化选择精心挑选的重加权损失可以恢复原始数据分布上的贝叶斯最优组感知公平分类器。通过广泛的实验，我们检查了标准公平工具包中的预处理公平分类器在训练数据注入不同程度的偏差时的公平性和准确性，并发现少量简单公平技术，如重新加权、指数梯度，在其训练数据注入欠代表性和标签偏差时也可以提供稳定的准确度和公平性保证。

    Feb, 2023

  • 数据受限二元分类中平衡公平性与准确性

    在处理敏感信息的应用程序中，数据限制可能会对机器学习（ML）分类器的可用数据施加限制，本文提出了一个框架，模拟了在四种实际情景下准确性和公平性之间的折衷，以确定在各种数据限制情况下，贝叶斯分类器的准确性受到的影响是如何的。

    Mar, 2024

  • 一种分布鲁棒的公平分类方法

    提出了一种具有不公平惩罚的分布鲁棒逻辑回归模型，可以使用 Wasserstein ball 来对分布不确定性进行建模以实现公平机会并提高公平性。

    Jul, 2020

  • 机器学习中识别和纠正标签偏差

    本文提出了一种数学公式来证明数据集中的偏见对分类器的影响，通过无需改变标签来重新计算数据点的值，从而得到一个无偏分类器，这种方法可以在各种机器学习算法中使用，并实现了公平分类的目标。

    Jan, 2019

  • 依赖于组的标签噪声下的公平分类

    研究了在训练标签被随机噪声污染和误差率依赖于保护子组的成员函数的情况下如何训练公平分类器，发现简单地强制使用人口统计差异措施达到平等，会降低分类器的准确性和公平性。通过使用指定的替代损失函数和替代约束条件对经验风险最小化进行优化可以减少标签噪声引起的问题。

    Oct, 2020

  • 关于公平约束学习对恶意噪声的脆弱性

    对受到恶意干扰数据的公平约束学习的脆弱性进行研究，发现使用随机化分类器可以降低损失。

    Jul, 2023

  • 分类中公平的代价

    本文研究学习分类器的公平性约束问题并提出了三种解决方案，分别是将两个现有的公平性度量关联到成本敏感风险，显示了对于成本敏感分类和公平性度量的最优分类器是类概率函数的实例相关阈值，并展示了准确性和公平性之间的权衡是通过目标和敏感特征的类概率之间的一致性来确定的。支撑我们分析的是一个通用框架，将具有公平要求的学习问题建模为两种统计风险差异的最小化问题。

    May, 2017

  • 在公平约束下的经验风险最小化

    介绍了一种基于经验风险最小化的算法，通过将公平性约束条件融入到学习问题中，实现敏感变量不会不公平地影响分类器的结果，得出了公平性和风险的界限，对核方法进行了特定说明，发现公平性要求意味着正交性约束，此约束可轻松添加到这些方法中，特别是对于线性模型，约束转化为一个简单的数据预处理步骤，实验证明该算法具有实用性，表现优于最先进的方法。

    Feb, 2018

  • 公平分类：纠正样本差异和交叉偏见

    研究了在存在样本筛选偏差的情况下，通过一种小样本无偏估计方法和重新加权方案，来有效评估基于真实分布的假设的风险，以及解决交叉组成员计算困难的问题。

    Jun, 2023