个体公平表示的潜空间平滑

ECCVNov, 2021

Latent Space Smoothing for Individually Fair Representations

Momchil Peychev, Anian Ruoss, Mislav Balunović, Maximilian Baader, Martin Vechev

TL;DR本文提出 LASSI 方法，应用生成建模来解决在高维数据环境下学习个体公平表示的问题，并通过随机平滑来确保端到端公平。实验证明该方法提高了最多 90％的认证个体公平性，而对任务效用的影响不显著。

Abstract

Fair representation learning transforms user data into a representation that ensures fairness and utility regardless of the downstream application. However, learning individually fair representations, i.e., guaranteeing that similar individuals are treated similarly, remains challengin

representation learning individual fairness high-dimensional data generative modeling randomized smoothing

发现论文，激发创造

学习确证个体公平表示

该论文提出了一种基于潜在表示的证书方法，帮助数据消费者获得现有和新数据点的个体公平性证书，实现了公平性约束和效用之间的平衡，并通过实验评估了该方法在五个真实数据集和多个公平性约束方面的可扩展性和表现力。

Feb, 2020

通过对抗性框架学习公平表示

本文介绍了一个最小二乘对抗框架，其中一个发生器生成学习个体的潜在表示，一个评论家保证了不同保护组的分布相似，从而在保留足够信息的同时解决了受保护属性引起的潜在偏差问题，为公平分类提供了理论保证。经验结果表明，这种方法可以有效地用于分类任务，特别是在删除受保护属性不足以实现公平分类的情况下。

Apr, 2019

学习平滑和公平的表示

为了防止受保护人口受到歧视，减轻数据拥有者法律责任，本文尝试通过映射特征到公平表征空间，预防性地消除特征与敏感属性之间的相关性。实验结果表明，平滑表征分布可提供公平证书的泛化保证，同时不降低下游任务的准确性。

Jun, 2020

对抗式叠加自编码器用于公平表示学习

本研究提出了一种基于不同层级的数据表征的公平表征学习方法，通过堆叠不同的自编码器在不同的潜在空间强制执行公平性，更好地满足公平度量标准并提高数据表征的公平性。

Jul, 2021

iFair: 学习个体公平数据表示方法用于算法决策

本文提出了一种基于概率映射用户记录的方法，用于实现算法决策应用的个体公平性和真实应用环境下的分类器和排名等工具的效用性，并通过应用于现实世界数据集的分类和学习排序任务的实验表明了其比之前最佳方法有显著改善。

Jun, 2018

通过潜空间去偏置实现公平的属性分类

本文介绍了一种使用 GAN 生成图像并在潜在空间中扰动以生成可以平衡每个受保护属性的训练数据的方法，以缓解由相关性所引起的偏差，通过在原始数据集上增加扰动生成的数据，实证证明训练结果准确且具有许多定量和定性上的优势。在 CelebA 数据集上进行了全面评估和分析，与现有文献进行了比较。

Dec, 2020

增量学习维持公平性

该研究提出了一种名为 FaIRL 的表示学习系统，它可以在增量学习新任务的过程中维持公正，通过控制所学表示的速率畸变函数来实现公平和新任务的学习，并在目标任务上实现高性能，优于几种基准方法。

Aug, 2022

在数据领域探索公平性表示

本文提出了一种数据之间的翻译方法，实现了图像或表格数据的公平性，有效避免保护特征的语义性对公平性造成的影响，并在实际数据集面对性别这一保护特征时表现出了很好的机会平等性。

Oct, 2018

学习可控的公平表征

本文提出了一种信息理论动机的目标函数，用于学习在公平约束条件下最具表达力的数据表示，旨在通过控制不公平性极限的方式帮助用户控制数据表示的公平性，证明了现有方法无法完全实现此目标，通过引入一种优化模型参数和表达力 - 公平性权衡的方法来平衡多种公平概念的权衡，并在更低的计算成本下实现更高的表达能力。

Dec, 2018

DualFair: 基于对比自监督的群体和个体公平表示学习

本文提出了一种名为 DualFair 的自我监督模型，可从学到的表示中去除诸如性别和种族等敏感属性的偏差，同时优化两个公平标准，团体公平性和反事实公平性，为团体和个体提供更公平的预测，针对多个数据集进行了详细的分析，表明了该模型的有效性和进一步展示了同时解决两种公平标准的协同效应，同时建议该模型在公平的智能 Web 应用中具有潜在价值。

Mar, 2023