Falcon：使用多臂赌博机的公平主动学习

Jan, 2024

Falcon：使用多臂赌博机的公平主动学习

Falcon: Fair Active Learning using Multi-armed Bandits

Ki Hyun Tae, Hantian Zhang, Jaeyoung Park, Kexin Rong, Steven Euijong Whang

TL;DR在数据分析的开始阶段，尤其是在数据集筛选和标记过程中，存在数据倾向性可能导致不公平的机器学习模型。为了解决这个问题，我们提出了一种可扩展的公平主动学习框架 Falcon，该框架采用数据为中心的方法，通过策略性样本选择改进机器学习模型的公平性。实验证明，Falcon 在公平性和准确性方面显著优于现有公平主动学习方法，并且更加高效。

Abstract

biased data can lead to unfair machine learning models, highlighting the importance of embedding fairness at the beginning of data analysi

biased data machine learning models fairness active learning dataset curation

发现论文，激发创造

低数据环境下公正主动学习

在数据稀缺环境中，通过结合后验采样和公平分类子程序的创新主动学习框架，我们有效地提高了模型准确性并满足公平约束，证明了该方法在最大限度利用少量标注数据时的有效性，并对已有方法进行了改进。

Dec, 2023

积极学习是否可以预防公平性问题？

本文研究使用基于不确定性的主动学习启发式方法（如 BALD）训练的模型是否比使用独立同分布（i.i.d.）采样训练的模型在决策中对受保护类别具有更高的预测平等性，并探讨了算法公平性方法（如 GRAD 和 BALD）的交互作用，表明在大多数基准和度量标准上交互作用进一步提高了结果。

Apr, 2021

公平主动学习

本文提出了一种基于公平主义的主动学习算法，旨在平衡机器学习模型的准确性和公平性，并在多个基准数据集上验证了其有效性和效率。

Jan, 2020

公平上下文多臂赌博机：理论与实验

本研究介绍一种带有公平性约束条件的多臂赌博算法，使用关于用户和任务的上下文信息进行决策制定，以展示公平的决策结果

Dec, 2019

AdaFair: 累积公平自适应提升算法

研究机器学习如何处理公平性和防止基于敏感属性的预测性歧视问题，并提出一种名为 AdaFair 的基于 AdaBoost 分类器的方法，该方法显式地处理类别不平衡并在维持分类准确性的同时优化公平性，实验证明其在平衡错误方面比现有的公平性方法表现显著好 25％。

Sep, 2019

FAE: 公平感知集成框架

基于自动化决策的大数据和机器学习算法可能导致对某些受保护群体的歧视性决策。既有的公平感知机器学习方法关注于输入数据，学习算法或派生模型的前处理，中断处理或后处理。本文提出的 FAE（公平感知集成）框架结合了数据分析过程中前处理和后处理步骤中与公平相关的干预措施。

Feb, 2020

算法决策的主动公平性

本研究提出了一种基于主动框架的公平分类方法，通过根据不同群体或个体的需求自适应获取信息来平衡分类性能差异，证明了该方法可以显著优于基于随机化的分类器。

Sep, 2018

基于奇偶校验的累积公平感知 Boosting

该研究提出了 AdaFair 算法，它可以有效地处理数据驱动的人工智能系统中的歧视问题，在平衡不足的情况下实现了性别、种族等保护属性的公平，同时保持预测性能。

Jan, 2022

FairALM: 用增广 Lagrangian 方法训练公平模型，减少悔恨

本文研究了使用公平性度量来指导模型的设计和训练的机制，提出了一种简单但可靠的方法，即在训练模型时同时实现公平，并通过详细的技术分析和实验验证了在计算机视觉训练任务中可靠地实现各种公平性度量。

Apr, 2020

关于对抗偏差和公正机器学习的鲁棒性

为保证公正性，公平机器学习算法致力于消除不同群体间的行为差异，但是研究表明，在训练数据存在偏差的情况下，将同等的重视不同规模和分布的不同群体，可能会与鲁棒性相冲突，攻击者可以通过对样本和标签的控制来攻击群体公平性机器学习，从而在测试数据上显著降低测试准确率，本文评估了多种算法和基准数据集的攻击，分析了公平机器学习的鲁棒性。

Jun, 2020