Jun, 2024

关于公平感知分类器的最大局部差异

PDF
TL;DR通过提出一种称为最大累积比不平等的新公平度量指标（MCDP）来衡量算法的最大局部不平等，提供比传统公平度量更准确和高效的计算方法，并通过不可导逼近的 MCDP 的优化算法提高算法公平度。在基于表格和图像的数据集上进行的广泛实验验证了我们的公平训练算法可以实现优越的公平性与准确性的权衡。
fairnessmachine learning algorithmsfairness metricsmaximal cumulative ratio disparityalgorithmic fairness
发现论文，激发创造
  • 退休 $Δ$DP：用于人口统计学平等的新分布级别指标

    该研究提出两种新的公平度量标准，ABPC 和 ABCC，用于精确量化分布级别的人口平等破坏。新的公平性指标直接衡量不同人口群体的预测概率分布之间的差异，并且在分类阈值调整时保证人口平等。

    Jan, 2023

  • 有界种族差异的极小极大公平分类

    控制统计机器学习方法的不公平影响是确保公平性的关键。本文探讨了具有两个受保护群体的公平二分类的统计基础，重点是控制人口统计差异，并提出了一种量化公平性约束影响的新方法。

    Mar, 2024

  • 公平性指标在欧盟非歧视法律中的相容性：人口多样性平衡和条件人口差异

    本研究旨在通过条件人口失调性 (CDD) 的公平性定义来评估公平度量和公平约束，在欧盟非歧视法律框架下支持公平上下文方法，并进行了数据分析，发现 AI 辅助决策在法律角度上具有公平性，取决于具体情况和法律理由。

    Jun, 2023

  • 基于最大均值差异正则化的公平性研究在逻辑空间中

    通过对输出 logits 施加最大均值差异约束条件，我们提出了一种新颖的框架 Logits-MMD，来实现高风险机器学习应用（如医疗和面部识别）中的公平性条件，并通过定量分析和实验结果表明，我们的框架优于以往方法，在两个面部识别数据集和一个动物数据集上达到了最先进水平。最后，我们展示了实验结果并证明了我们去偏方法有效地实现了公平性条件。

    Feb, 2024

  • 利用因果效应估计的凸公平约束模型

    本文通过使用因果效应估计器，利用倾向得分分析，提出了一种名为 FairCEEs 的新模型，该模型可以在保持解释偏差的同时消除歧视。经过实验证明，FairCEEs 在回归和二分类任务中的效果优于既考虑歧视又考虑解释偏差的现有模型。

    Feb, 2020

  • 具有统计保证的参数公平性

    通过将与预测相关的分布属性纳入考虑，我们扩展了人口平等的概念，允许专家知识在公平解决方案中得到应用，并通过一个工资的实际案例说明了此新度量的使用，同时开发了解决实际挑战的参数方法，提供了一个适用于现实生活中应用场景的强大解决方案。

    Oct, 2023

  • 多类别分类中的公平性保证

    本文提出了一种用于多类分类的算法公平性方法，同时给出了最佳公平分类器的相关表达式，该方法基于数据驱动的程序并且有理论保证。该方法在合成和真实数据集上都很有效，在决策制定中具有预设不公平性水平的公平性保证（无需考虑分布），并竞争（即使更好）地完成二元和多类任务。

    Sep, 2021

  • 通过最小 - 最大 F - 散度正则化学习公平分类器

    本文提出了一种新颖的 min-max F-divergence 规则框架，通过两个可训练网络（分类器网络和偏差 / 公平估计器网络），使用统计概念中的 F-divergence 度量公平性，学习公平的分类模型，同时保持高准确率，可适用于多个敏感属性和高维数据集。该框架针对两种群体公平性限制进行 F-divergence 规则模式的研究，进行了一系列实验，结果显示该框架在准确性和公平性之间的平衡方面实现了最先进的性能。

    Jun, 2023

  • 限制计算意识的公平性

    在 Dwork 等人的框架中，我们研究了公平分类问题，提出了一种新的公平概念 (metric multifairness)。该概念是基于相似度度量和样本的比较集合，并且可以用有限次查询任意度量的方式来实现。

    Mar, 2018

  • MCDAL：用于主动学习的最大分类器差异性

    提出了一种新的主动学习框架 MCDAL，利用多个分类器的预测不一致性来进行样本采集，使用分类器不一致性作为主动学习采集函数，优于 GAN 等现有方法。

    Jul, 2021