FARE: 可证明公平的表示学习

Oct, 2022

FARE: Provably Fair Representation Learning

Nikola Jovanović, Mislav Balunović, Dimitar I. Dimitrov, Martin Vechev

TL;DR本研究提出一种新的公平性表示学习（FRL）方法 —— 受限编码公平性（FARE）方法，通过限制编码器的表示空间来获得适当的公平性保证，实现了经验准确度 - 公平性权衡，并且利用实用的统计程序计算了下游分类器不公平性的高置信度上界。

Abstract

fair representation learning (FRL) is a popular class of methods aiming to produce fair classifiers via data preprocessing. However, recent work has shown that prior methods achieve worse accuracy-fairness tradeo

fair representation learning data preprocessing fairness guarantees tree-based encoder practical statistical procedure

发现论文，激发创造

关于公平表示学习的回归走向

通过重新关注性能在传输任务上的公平代表学习方法的评估协议，我们重新评估了现有的方法，并突出了对于公平代表学习方法来说，与任务无关的学习信号的重要性。

May, 2024

学习具有高置信度保证的公平表示

本研究提出了一种称为 FRG 框架的公平表示学习方法，该方法能够提供对所有下游模型和任务的不公平性的高置信度保证，并通过用户定义的上界限制不公平性。实证评估结果表明，FRG 方法能够有效地上界限制多个下游模型和任务的不公平性。

Oct, 2023

增量学习维持公平性

该研究提出了一种名为 FaIRL 的表示学习系统，它可以在增量学习新任务的过程中维持公正，通过控制所学表示的速率畸变函数来实现公平和新任务的学习，并在目标任务上实现高性能，优于几种基准方法。

Aug, 2022

可证明公正的表述

本文介绍了一种基于代表函数的方法，证明了其可实现机器学习中的公平，适用于聚合模型，具有透明度和防止恶性激励的优势，并应用于金融和刑事司法数据集。

Oct, 2017

走向公平表达的毒性注入

公平机器学习，公平表征学习及数据污染攻击的研究。

Sep, 2023

对抗式叠加自编码器用于公平表示学习

本研究提出了一种基于不同层级的数据表征的公平表征学习方法，通过堆叠不同的自编码器在不同的潜在空间强制执行公平性，更好地满足公平度量标准并提高数据表征的公平性。

Jul, 2021

学习确证个体公平表示

该论文提出了一种基于潜在表示的证书方法，帮助数据消费者获得现有和新数据点的个体公平性证书，实现了公平性约束和效用之间的平衡，并通过实验评估了该方法在五个真实数据集和多个公平性约束方面的可扩展性和表现力。

Feb, 2020

比例代表聚类

在机器学习中，我们提出了一个新的公理，即比例表示公平（PRF），并设计了高效的算法来实现公平聚类，这一概念以一种更有说服力的方式实现了现有概念的存在原因。

Apr, 2023

通过解缠来实现灵活公平的表示学习

该研究论文探讨了学习表示方法和多个敏感属性之间实现群体和子群体公平性的方法，通过提出一种算法来实现紧凑立体的数据表示，该算法可以灵活地进行公平性调整，同时不需要使用敏感属性进行推理，拥有较好的分类效果。

Jun, 2019

通过率失真最大化学习公平表示

本文提出了一种新的去偏方法 —— 公平感知率最大化（FaRM），该方法能通过使用率失真函数使属于同一个受保护属性类的实例的表示不相关，从而去除受保护的信息，其能够在有或没有目标任务的情况下去偏表示。经实验评估表明，FaRM 在多个数据集上实现了最新的性能，并且学习到的表示对非线性探测网络的攻击泄漏了极少量的受保护属性信息。

Jan, 2022