AI 公平性的感知 - 思维模型的效益与风险

Jun, 2024

AI 公平性的感知 - 思维模型的效益与风险

The Benefits and Risks of Transductive Approaches for AI Fairness

Muhammed Razzak, Andreas Kirsch, Yarin Gal

TL;DR最近，在机器学习模型的速度、准确性和公平性方面改进的潜力上，利用留置集在训练过程中的转导学习方法已经越来越受欢迎。然而，留置集本身的构成，特别是敏感子群的平衡，却一直被忽视。我们在 CIFAR 和 CelebA 数据集上的实验表明，留置集中的构成变化可以大大影响公平度量。失衡的留置集加剧了现有的不平等问题，而平衡的留置集可以缓解由于不平衡训练数据引入的问题。这些发现强调了构建既多样又具有代表性的留置集的必要性。

Abstract

Recently, transductive learning methods, which leverage holdout sets during training, have gained popularity for their potential to improve speed, accuracy, and fairness in machine learning models. Despite this,

transductive learning methods holdout sets fairness metrics imbalanced training data constructing holdout sets

发现论文，激发创造

信任公平数据：利用质量优化公平导向的数据去除技术

通过引入多目标优化问题来平衡公平性和数据质量，我们提出了一种找到帕累托最优解的方法，以消除偏见缓解技术对数据集的剔除特定数据点所带来的信任问题，并保证子集对整体人群的公平性、组覆盖率和最小数据损失。

May, 2024

超越准确性和公平性：不再仅基于群组间指标对偏见缓解方法进行评估

人工智能（AI）在各领域广泛应用，引发对公平性的关注。然而，现行的讨论往往强调基于结果的度量，而对亚组内不同影响缺乏细致考虑。偏见缓解技术不仅影响敏感组之间实例的排名，而且通常也显著影响这些组内实例的排名。这种变化很难解释，并引发对干预有效性的担忧。然而，当前通常使用的准确性公平评估框架很少注意到这些效应。本文挑战用于评估偏见缓解技术的现行指标，认为它们不考虑组内变化，导致预测标签无法反映真实场景。我们提出一个范式转变：首先，我们应该专注于为每个亚组生成最准确的排名。然后，根据这些排名选取个体以满足公平标准和实际考量。

Jan, 2024

具备辅助集的公平少样本学习

最近，发展能够促进公平性的机器学习（ML）模型引起了广泛关注，即消除对特定群体（例如来自特定人口统计群体的个人）的偏见预测。本文定义了具有有限训练样本的公平感知学习任务，即 “公平少样本学习” 问题，并提出了一种新颖的框架，通过在不同的元训练任务中积累公平感知知识，然后将这些学到的知识推广到元测试任务中。此外，我们在三个真实世界数据集上进行了大量实验证明我们的框架相对于现有基线算法具有卓越的优势。

Aug, 2023

超人公平性

将公平性问题重新解释为一种基于超级公平性目标的模仿学习任务，以同时提高决策的准确性和公平性。

Jan, 2023

机器学习在公共政策领域中公平性和准确性之间取得的可忽略权衡的经验观察

使用机器学习来减少公平性差异和确保准确性在真实世界中的平衡是政策制定者关注的问题，本文通过实证研究发现，在教育、心理健康、刑事司法和住房安全等领域中使用后期处理措施来解决公平性问题，能够显著提高公平性而不牺牲准确性，实现在政策中使用机器学习的目的。

Dec, 2020

数据集公平性：通过效用保证在您的数据上实现公平

机器学习公平性经常导致准确率下降，我们提出了一种基于数据集的高效方法来逼近公平性 - 准确性权衡曲线，并通过引入置信区间来量化逼近的不确定性，从而为各种数据模态下的数据集特定公平决策提供了一种有原则的框架。

Feb, 2024

朝着阈值不变的公平分类

本文提出了门槛不变的公平性的概念，通过两种近似方法来均衡不同群体之间的风险分布，实现了对机器学习模型公平性的提高。

Jun, 2020

基于置信度的公平性与准确性平衡方法

研究三种经典机器学习算法（自适应 boosting，支持向量机和逻辑回归算法）在算法公平性方面的应用，旨在通过改变决策边界以减少对某一保护组成员的歧视。提出的方法在准确度和低歧视方面与先前的算法相当或优于，同时允许快速透明地量化偏差和误差之间的权衡。通过新的公平度量（RRB），结合偏差和准确性来提供算法公平性的更完整的图景。

Jan, 2016

针对监督学习模型的个体不公平性识别、测量和缓解以及其在信用风险模型中的应用

本文旨在通过实现一个两步训练过程来识别和减轻个人不公平，并利用最近在此领域发表的一些技术，特别是在信贷审批用例中适用的技术。我们还调查了实现个人公平性的技术在实现团体公平性方面的有效程度以及提出了第二度量标准来确定模型如何公平地处理类似的个体，最后呈现了一些与个人不公平减轻技术相关的实验结果。

Nov, 2022

AdaFair: 累积公平自适应提升算法

研究机器学习如何处理公平性和防止基于敏感属性的预测性歧视问题，并提出一种名为 AdaFair 的基于 AdaBoost 分类器的方法，该方法显式地处理类别不平衡并在维持分类准确性的同时优化公平性，实验证明其在平衡错误方面比现有的公平性方法表现显著好 25％。

Sep, 2019