Jan, 2023

退休 $Δ$DP：用于人口统计学平等的新分布级别指标

PDF
TL;DR该研究提出两种新的公平度量标准，ABPC 和 ABCC，用于精确量化分布级别的人口平等破坏。新的公平性指标直接衡量不同人口群体的预测概率分布之间的差异，并且在分类阈值调整时保证人口平等。
demographic parityfairness metricsprediction probabilitydistribution levelclassification threshold
发现论文，激发创造
  • 关于公平感知分类器的最大局部差异

    通过提出一种称为最大累积比不平等的新公平度量指标（MCDP）来衡量算法的最大局部不平等，提供比传统公平度量更准确和高效的计算方法，并通过不可导逼近的 MCDP 的优化算法提高算法公平度。在基于表格和图像的数据集上进行的广泛实验验证了我们的公平训练算法可以实现优越的公平性与准确性的权衡。

    Jun, 2024

  • 具有统计保证的参数公平性

    通过将与预测相关的分布属性纳入考虑，我们扩展了人口平等的概念，允许专家知识在公平解决方案中得到应用，并通过一个工资的实际案例说明了此新度量的使用，同时开发了解决实际挑战的参数方法，提供了一个适用于现实生活中应用场景的强大解决方案。

    Oct, 2023

  • 公平性指标在欧盟非歧视法律中的相容性：人口多样性平衡和条件人口差异

    本研究旨在通过条件人口失调性 (CDD) 的公平性定义来评估公平度量和公平约束，在欧盟非歧视法律框架下支持公平上下文方法，并进行了数据分析，发现 AI 辅助决策在法律角度上具有公平性，取决于具体情况和法律理由。

    Jun, 2023

  • 有界种族差异的极小极大公平分类

    控制统计机器学习方法的不公平影响是确保公平性的关键。本文探讨了具有两个受保护群体的公平二分类的统计基础，重点是控制人口统计差异，并提出了一种量化公平性约束影响的新方法。

    Mar, 2024

  • 基于人口平衡的公平学习算法的归纳偏差

    研究通过敏感属性的少量依赖分配标签的公平监督学习算法在机器学习界引起了极大关注。本文分析了标准的基于 DP 的正则化方法对给定敏感属性的预测标签的条件分布的影响，并提出了一种基于敏感属性的分布鲁棒优化方法以改善对敏感属性边际分布的鲁棒性，数值实验结果支持了理论结果及所提出的方法的去偏效果。

    Feb, 2024

  • 生物识别中测量偏差的公平性指数

    本文提出了多个基于 biometric 系统评分的统计特征的评估指标和权重策略，通过评估数据得出生物识别系统的公平性。

    Jun, 2023

  • 公正和多样化的基于 DPP 的数据概述

    通过加入公平性约束条件，该文章提出了一种基于确定性多元分布的方法，并且使用了快速的抽样算法以产出多样化且公平的数据子集。

    Feb, 2018

  • 在不同世界观下避免不公平放大

    通过对四种竞争性的群体非歧视定义：人口平等、等候平等、预测平等、校准；的数学比较，我们研究了不同世界观下，每个定义的属性，指出了不同的世界观需要不同的公平定义，并且界定了一个与更真实的世界观对应的新的公平概念。

    Aug, 2018

  • FairDP：差分隐私下的合规公平性保障

    本文介绍了 FairDP 机制，它是一种同时确保差分隐私和公平性的新型机制。 FairDP 通过为不同的个体群体独立训练模型，并使用群体特定的剪辑术语来评估和限制 DP 的差异影响来运行。 在整个训练过程中，该机制逐步集成来自群体模型的知识，从而制定在下游任务中平衡隐私，实用性和公平性的综合模型。 广泛的理论和实证分析验证了 FairDP 的功效，展示了与现有方法相比，模型实用性，隐私和公平性之间的权衡得到了改善。

    May, 2023

  • 协调预测和统计平等：因果方法

    通过对统计平等和预测平等的关系进行原因分解，我们得出了一种新的公式，使得两种平等概念不互斥，而是互补的，并通过业务必要性的理念涵盖了公平性概念的一系列光谱，最终我们通过真实世界的案例证明了我们发现的重要性。

    Jun, 2023