Jan, 2016

基于置信度的公平性与准确性平衡方法

PDF
TL;DR研究三种经典机器学习算法（自适应 boosting，支持向量机和逻辑回归算法）在算法公平性方面的应用，旨在通过改变决策边界以减少对某一保护组成员的歧视。提出的方法在准确度和低歧视方面与先前的算法相当或优于，同时允许快速透明地量化偏差和误差之间的权衡。通过新的公平度量（RRB），结合偏差和准确性来提供算法公平性的更完整的图景。
发现论文，激发创造
  • AdaFair: 累积公平自适应提升算法

    研究机器学习如何处理公平性和防止基于敏感属性的预测性歧视问题，并提出一种名为 AdaFair 的基于 AdaBoost 分类器的方法，该方法显式地处理类别不平衡并在维持分类准确性的同时优化公平性，实验证明其在平衡错误方面比现有的公平性方法表现显著好 25％。

    Sep, 2019

  • 公平约束：公平分类的机制

    该研究引入了一种灵活的机制，以设计公平的分类器，其中利用了一种新颖的、直观的决策边界（不）公平度量，并结合实际的数据表明，该机制在维持准确度的小代价下，允许对公平度进行微调。

    Jul, 2015

  • 数据受限二元分类中平衡公平性与准确性

    在处理敏感信息的应用程序中，数据限制可能会对机器学习（ML）分类器的可用数据施加限制，本文提出了一个框架，模拟了在四种实际情景下准确性和公平性之间的折衷，以确定在各种数据限制情况下，贝叶斯分类器的准确性受到的影响是如何的。

    Mar, 2024

  • 使用敏感子空间鲁棒性训练个体公平的机器学习模型

    我们考虑培训机器学习模型，使其在输入的某些敏感扰动下表现不变的公平性，这种公平性的形式化表述为个体公平性的一种变体，并使用分布鲁棒优化方法在训练期间强制执行。我们还展示了该方法在两个容易受到性别和种族偏见影响的机器学习任务上的有效性。

    Jun, 2019

  • 关于对抗偏差和公正机器学习的鲁棒性

    为保证公正性，公平机器学习算法致力于消除不同群体间的行为差异，但是研究表明，在训练数据存在偏差的情况下，将同等的重视不同规模和分布的不同群体，可能会与鲁棒性相冲突，攻击者可以通过对样本和标签的控制来攻击群体公平性机器学习，从而在测试数据上显著降低测试准确率，本文评估了多种算法和基准数据集的攻击，分析了公平机器学习的鲁棒性。

    Jun, 2020

  • 公平精确性平衡下的内在公平性 - 准确性权衡

    机器学习在执法、刑事司法、金融、招聘和招生等领域的日益广泛应用，确保机器学习辅助决策的公平性变得越来越关键。本文以统计学的 “平等机会” 概念为基础，研究了公平性和准确性之间的折衷。我们提出了一个新的准确性上限（适用于任何分类器），并将其作为公平预算的函数。此外，我们的上限还与数据、标签和敏感群体属性的底层统计学关系密切相关。通过对三个真实世界数据集（COMPAS、成年人和法学院）进行经验分析，我们验证了我们理论上限的有效性。具体而言，我们将我们的上限与文献中各种现有公平分类器所实现的折衷情况进行了比较。我们的结果表明，在统计差异存在的情况下，实现高准确性条件下的低偏差可能从根本上受到限制。

    May, 2024

  • 基于奇偶校验的累积公平感知 Boosting

    该研究提出了 AdaFair 算法，它可以有效地处理数据驱动的人工智能系统中的歧视问题，在平衡不足的情况下实现了性别、种族等保护属性的公平，同时保持预测性能。

    Jan, 2022

  • 适应性增强与公平感知重新加权技术的公平分类

    提出了一种新颖的公平 AdaBoost（FAB）方法，通过公平感知的权重调整技术实现公平分类，并在维持 AdaBoost 的优势的同时，几乎不牺牲预测性能。在实际数据集上进行的实证结果表明，FAB 在公平性和准确性的权衡方面优于同类方法。

    Jan, 2024

  • 公平混合效应支持向量机

    机器学习中的公平性与聚类数据对公平机器学习预测的影响，以及一种能够同时处理这两个问题的公平混合效应支持向量机算法。

    May, 2024

  • 个体公平梯度提升

    该研究采用函数梯度下降法实现在梯度提升中的个体公平性问题，并证明了该算法在决策树等非平滑模型上的泛化性和有效性。

    Mar, 2021