Nov, 2023

公正回归中的平等覆盖机会

PDF
TL;DR我们研究在具有预测不确定性的公平机器学习中，以实现可靠和可信赖的决策。我们提出了一种新的基于不确定性的公平性方法 —— Equal Opportunity of Coverage (EOC)，旨在实现两个性质：（1）相似结果的不同组别的覆盖率相近，（2）整个人群的覆盖率保持在预定水平。我们通过一个无分布的后处理方法，称为 Binned Fair Quantile Regression (BFQR)，来改进 EOC，该方法为任何训练的机器学习模型提供合理的宽度，我们的实验结果表明了我们方法在改进 EOC 方面的有效性。
发现论文，激发创造
  • 没有恶意：通过平衡覆盖度评估不确定性

    为了保证数据驱动的推荐系统的公平使用，我们应该能够向决策者传达它们的不确定性。我们提出了一个操作方法，名为 equalized coverage，该方法通过提供严谨的分布自由覆盖保证，使构造预测间隔不带偏见。我们在真实数据上测试了所提出框架的适用性，证明 equalized coverage 构造的预测间隔是不带偏见的。

    Aug, 2019

  • 适应性选组等覆盖的共形分类

    引入了一种符合性推断方法以评估分类中的不确定性，通过生成具有有效覆盖率的预测集，并在自适应选择的特征上进行。这些特征经过精选以反映潜在的模型限制或偏差，有助于在提供有信息的预测的同时，在最敏感的群体中确保平等的覆盖率，从而找到实践上的一个妥协点。我们通过模拟和真实数据集展示了此方法的有效性和准确性。

    May, 2024

  • 公平精确性平衡下的内在公平性 - 准确性权衡

    机器学习在执法、刑事司法、金融、招聘和招生等领域的日益广泛应用，确保机器学习辅助决策的公平性变得越来越关键。本文以统计学的 “平等机会” 概念为基础，研究了公平性和准确性之间的折衷。我们提出了一个新的准确性上限（适用于任何分类器），并将其作为公平预算的函数。此外，我们的上限还与数据、标签和敏感群体属性的底层统计学关系密切相关。通过对三个真实世界数据集（COMPAS、成年人和法学院）进行经验分析，我们验证了我们理论上限的有效性。具体而言，我们将我们的上限与文献中各种现有公平分类器所实现的折衷情况进行了比较。我们的结果表明，在统计差异存在的情况下，实现高准确性条件下的低偏差可能从根本上受到限制。

    May, 2024

  • 透过反事实预测实现平等机会和肯定行动

    本文提出了两个算法，通过因果模型和反事实决策来实现公平的机器学习预测器，以实现提供平等机会和重修历史劣势。在包括招生、收入、信用和再犯等领域的数据集上进行评估与权衡，结果表明这些预测器在理论上达到了预测性能的最优，同时满足公平性。

    May, 2019

  • 通过重采样敏感属性实现均衡的几率

    提出了一种灵活的预测模型学习框架，可近似满足平等赔率公平性概念，采用差异性函数作为参数惩罚项并引入形式假设检验方法来检测预测是否违反平等赔率公平性，同时提供了平等不确定性量化技术来以精确术语传达数据分析结果。

    Jun, 2020

  • 不平等不确定性下的公平排名

    使用 Equal-Opportunity Ranking 算法进行排名，解决不同群体之间存在的不确定性差异所导致的不公平问题。

    Sep, 2023

  • 后期偏倚评分在公平分类中的最优选择

    在群体公平约束下考虑了二元分类问题，通过引入一种新的偏见量度，称为偏见分数，提出了贝叶斯最优分类器的显式特征，并基于该特征开发了一种满足公平约束且保持高准确率的事后方法。该方法在 Adult、COMPAS 和 CelebA 数据集上与内处理和事后处理方法相比性能竞争力更好，不同于大多数事后处理方法，我们在推断时不需要访问敏感属性。

    Oct, 2023

  • Equal Improvability: 一个考虑长期影响的新公平性概念

    提出一种新的公正性指标 EI (即平等的可改进性)，并且提出了三种算法来解决 EI 规则化优化问题。实验结果表明，使用 EI 指标可以实现长期公正性。

    Oct, 2022

  • 通过正交分位数回归改善条件覆盖率

    我们开发了一种在特征空间的所有区域具有用户指定的覆盖水平的预测区间生成方法，称为条件覆盖。我们发现传统的分位数回归可能具有较差的条件覆盖，并通过修改损失函数来解决这个问题，从而提高了实验室中的条件覆盖。

    Jun, 2021

  • 平等机会经济模型视角下公平机器学习的道德框架

    本文将算法公平性的概念与政治哲学中的机会平等等经济模型进行了概念映射，通过这种方式，许多现有的算法公平性定义可以解释为机会平等的特例，从而成为理解现有算法公平性概念的统一道德框架，并且我们基于机会平等模型提出了新的算法公平度量标准，我们的实证结果表明，当社会道德假设不满足时，使用算法公平度量会对弱势群体的福利产生严重后果。

    Sep, 2018