FALE: 公平感知的 ALE 图用于审计亚群的偏见

KDDApr, 2024

FALE: 公平感知的 ALE 图用于审计亚群的偏见

FALE: Fairness-Aware ALE Plots for Auditing Bias in Subgroups

Giorgos Giannopoulos, Dimitris Sacharidis, Nikolas Theologitis, Loukas Kavouras, Ioannis Emiris

TL;DR在机器学习系统中，公平性逐渐成为一个关键要求。本文着重于研究子群体公平性以及如何通过可解释性方法识别潜在偏见，并以用户友好的方式可视化结果，提出了 FALE 方法（公平感知累积局部效果图），作为识别潜在偏见问题的高效、用户友好、易理解和可靠的初步工具。

Abstract

fairness is steadily becoming a crucial requirement of Machine Learning (ML) systems. A particularly important notion is subgroup fairness, i.e.,

fairness subgroup fairness bias explainability method user friendly

发现论文，激发创造

FAE: 公平感知集成框架

基于自动化决策的大数据和机器学习算法可能导致对某些受保护群体的歧视性决策。既有的公平感知机器学习方法关注于输入数据，学习算法或派生模型的前处理，中断处理或后处理。本文提出的 FAE（公平感知集成）框架结合了数据分析过程中前处理和后处理步骤中与公平相关的干预措施。

Feb, 2020

防止公平选区操纵：小组公平审计与学习

在机器学习中，通过使用受保护的属性定义的结构化函数类来提议一种新的公平统计定义，从而语义上定义了指数级（或无限个）子组内的统计不变性，并证明了公平子组审核的计算问题与弱自适应学习问题等价，提出了两种算法，证明了这些算法在解决自治学习问题的情况下可以收敛，其中第二种方法具有简单和更快的步骤计算的优点。

Nov, 2017

FairVis: 用于发现机器学习中交叉偏见的视觉分析

通过交互式可视化，FairVis 帮助数据科学家和普通公众发现机器学习中的偏差，从而了解和创建更具公平性的算法系统。

Apr, 2019

机器学习中的程序公正

机器学习中的公平性问题引起了广泛关注，然而现有研究主要关注模型的分配公平性，而忽视了程序公平性。本文首先定义了机器学习模型的程序公平性，然后给出了个体和群体程序公平性的形式化定义，提出了一种用于评估机器学习模型群体程序公平性的新指标 $GPF_{FAE}$，该指标利用特征归因解释的人工智能技术捕捉了模型的决策过程。我们在合成数据集和八个真实数据集上验证了 $GPF_{FAE}$ 的有效性。实验结果揭示了模型程序公平性和分配公平性之间的关系。基于我们的分析，我们提出了一种识别导致模型程序不公平的特征的方法，以及两种改善程序公平性的方法。我们的实验证明，我们可以准确地识别导致模型程序不公平的特征，并且我们提出的两种方法在轻微影响模型性能的同时，可以显著改善程序公平性和分配公平性。

Apr, 2024

AdaFair: 累积公平自适应提升算法

研究机器学习如何处理公平性和防止基于敏感属性的预测性歧视问题，并提出一种名为 AdaFair 的基于 AdaBoost 分类器的方法，该方法显式地处理类别不平衡并在维持分类准确性的同时优化公平性，实验证明其在平衡错误方面比现有的公平性方法表现显著好 25％。

Sep, 2019

面向子群体的公平感知反事实

介绍了一种用于审计子组公平性的框架，通过反事实说明来指出不同方面中某些子组个体实现补救的困难，提出了不同基本的子组公平概念。同时，提出了一个高效的，模型不可知的，高度可参数化和可解释的子组公平评估框架，并对不同基准数据集进行了彻底的实验评估，证明了其优点、广泛适用性和效率。

Jun, 2023

算法公平性隐私风险

研究算法公平性和隐私在机器学习中的应用，分析了公平性对训练数据信息泄露的影响，发现公平性会牺牲一部分隐私权，特别是对弱势群体。同时，训练数据的偏差越大，为了弱势群体的公平性所付出的隐私成本也越高。

Nov, 2020

通过对抗加权学习实现无需人口统计学的公正性

我们提出 Adversarially Reweighted Learning (ARL) 来解决机器学习（ML）公平性研究中的现实问题：如何在不知道保护组成员身份的情况下训练 ML 模型以提高公平性，我们的结果显示，ARL 可以提高 Rawlsian Max-Min 公平性，在多个数据集中最坏情况下保护组的 AUC 得分优于现有的最先进方法。

Jun, 2020

FairALM: 用增广 Lagrangian 方法训练公平模型，减少悔恨

本文研究了使用公平性度量来指导模型的设计和训练的机制，提出了一种简单但可靠的方法，即在训练模型时同时实现公平，并通过详细的技术分析和实验验证了在计算机视觉训练任务中可靠地实现各种公平性度量。

Apr, 2020

算法公平性的因果特征选择

本文介绍了一种使用因果干预公平性范例，通过在数据管理的集成组件中考虑公平性来识别特征以提高预测质量而不添加偏差的方法，提出了一种使用条件独立性检测的方法来确定确保干预公平的特征子集，并通过现实世界的数据集进行了详细的实证评估，证明了方法的有效性和效率。

Jun, 2020