通过 Rényi 最小化学习无偏表示

Sep, 2020

Learning Unbiased Representations via Rényi Minimization

Vincent Grari, Oualid El Hajouji, Sylvain Lamprier, Marcin Detyniecki

TL;DR本文提出了一种通过 Hirschfeld-Gebelein-Renyi (HGR) 最大相关系数生成不带偏见表示的对抗性算法，从而实现了在机器学习算法的训练目标中包含公平性约束。

Abstract

In recent years, significant work has been done to include fairness constraints in the training objective of machine learning algorithms. Many state-of the-art algorithms tackle this challenge by learning a fair representation which captures all the relevant information to predict the

fairness constraints machine learning unbiased representations hirschfeld-gebelein-renyi coefficient mitigating bias

发现论文，激发创造

针对连续特征的公正感知神经 Réyni 最小化

本文旨在针对连续变量，保证回归模型输出与任何给定的连续敏感变量之间的一定独立性，通过减少 HGR 上限及使用对抗神经网络结构直接最小化 HGR 系数两种途径以最小化 HGR 系数。经过实证评估和比较，我们证明了这两种方法相对于该领域以前提出的工作有重要的改进。

Nov, 2019

通过对抗性框架学习公平表示

本文介绍了一个最小二乘对抗框架，其中一个发生器生成学习个体的潜在表示，一个评论家保证了不同保护组的分布相似，从而在保留足够信息的同时解决了受保护属性引起的潜在偏差问题，为公平分类提供了理论保证。经验结果表明，这种方法可以有效地用于分类任务，特别是在删除受保护属性不足以实现公平分类的情况下。

Apr, 2019

用对手模型压制表示

采用对抗生成网络的方法，学习灵活的、去除敏感信息的表示，以减少歧视和保护隐私，解决在机器学习应用中存在的限制问题。

Nov, 2015

学习可控的公平表征

本文提出了一种信息理论动机的目标函数，用于学习在公平约束条件下最具表达力的数据表示，旨在通过控制不公平性极限的方式帮助用户控制数据表示的公平性，证明了现有方法无法完全实现此目标，通过引入一种优化模型参数和表达力 - 公平性权衡的方法来平衡多种公平概念的权衡，并在更低的计算成本下实现更高的表达能力。

Dec, 2018

学习正交解缠表示以实现公平性

本文提出了一种新颖的分离方法来解决不变表示的问题，通过正交约束作为独立的代理来将有意义和敏感表示分离，并通过熵最大化来明确地强制有意义的表示对敏感信息不可知。该方法在公开的数据集上进行了评估，并将其与最先进的方法进行了比较，证明其在处理公平性和不变性方面具有最先进的性能。

Mar, 2020

通过互信息反向传播学习无偏表示

利用信息论的有关发现，我们提出了一种新的端到端优化策略，该策略同时估计和最小化学习表示和数据属性之间的互信息，通过这种策略，我们的模型在标准基准测试中表现出与最先进的方法相当或优越的分类性能，此方法可应用于问题的 “算法公平性”，并得到了竞争性的结果。

Mar, 2020

通过对抗特征学习实现可控的不变性

本文提出了一种通过对抗学习策略学习能够抵抗特定数据因素影响的新型表示学习方法，并通过多个基准测试表明所提出的方法可以获取到不变表示，从而提高模型的泛化能力。

May, 2017

机器学习中可配置公平解决方案的广义不平等影响

该研究对 AI 公平性在连续保护属性上作出两个贡献：一是展示 Hirschfeld-Gebelein-Renyi (HGR) 指标的价值，但存在一些关键限制；二是介绍一系列指标，并允许定义细粒度约束，扩展了关于连续保护属性的可用选项。

May, 2023

利用公平性来增强敏感属性的重建

本篇论文提出了一种通用的重构校正方法，可以在满足用户定义的约束条件（如公平性信息）的同时最小化敌手的猜测的更改，并解决了黑盒访问目标模型的情况下反应了培训数据敏感属性的问题。

Sep, 2022

学习具有高置信度保证的公平表示

本研究提出了一种称为 FRG 框架的公平表示学习方法，该方法能够提供对所有下游模型和任务的不公平性的高置信度保证，并通过用户定义的上界限制不公平性。实证评估结果表明，FRG 方法能够有效地上界限制多个下游模型和任务的不公平性。

Oct, 2023