可解释和公平表达的空值采样

ECCVAug, 2020

Null-sampling for Interpretable and Fair Representations

Thomas Kehrenberg, Myles Bartlett, Oliver Thomas, Novi Quadrianto

TL;DR本文提出在数据领域学习不变表示的方法，实现算法公平性的可解释性。采用了对抗训练模型和 null-sampling 程序来处理数据集中的强偏见，构建了具有可解释性的模型，并在 Colored MNIST、CelebA 和 Adult 数据集上进行实验。

Abstract

We propose to learn invariant representations, in the data domain, to achieve interpretability in algorithmic fairness. Invariance implies a selectivity for high level, relevant correlations w.r.t. class label an

invariant representations algorithmic fairness adversarial training null-sampling procedure disentanglement

发现论文，激发创造

无需对抗训练的不变表征

无需对抗训练，使用信息论优化能够直接获得可控转换的公平表示和生成建模的最新性能

May, 2018

基于不变式学习的对抗训练域不变表示的表示方法

本文研究使用先前为学习 “公平表示” 而开发的审查技术来解决域泛化问题。我们研究了 $k$ 个域的对抗性损失函数及其渐近行为，并在此基础上获得了算法在以前未见过的域上良好最坏情况预测性能的充分条件。我们提供了完整的不变性特征描述，并为敌对不变域泛化提供了第一个形式化保证。

Jun, 2020

在数据领域探索公平性表示

本文提出了一种数据之间的翻译方法，实现了图像或表格数据的公平性，有效避免保护特征的语义性对公平性造成的影响，并在实际数据集面对性别这一保护特征时表现出了很好的机会平等性。

Oct, 2018

学习正交解缠表示以实现公平性

本文提出了一种新颖的分离方法来解决不变表示的问题，通过正交约束作为独立的代理来将有意义和敏感表示分离，并通过熵最大化来明确地强制有意义的表示对敏感信息不可知。该方法在公开的数据集上进行了评估，并将其与最先进的方法进行了比较，证明其在处理公平性和不变性方面具有最先进的性能。

Mar, 2020

通过对抗特征学习实现可控的不变性

本文提出了一种通过对抗学习策略学习能够抵抗特定数据因素影响的新型表示学习方法，并通过多个基准测试表明所提出的方法可以获取到不变表示，从而提高模型的泛化能力。

May, 2017

无监督对抗不变性

该论文提出了一种新的无监督不变感知诱导框架，该框架通过竞争式训练和分解重构任务学习数据的分离表示，以抵抗干扰因素，并且无需任何标签的信息或领域知识。该无监督模型可以有效地使用合成数据增强来学习不变性和领域适应，并在诸如二元 / 多类别分类或回归等任何预测任务中应用。

Sep, 2018

不变表示学习中的基本极限和权衡

本论文通过信息论的方法，对机器学习中不变表示的准确性和不变性之间的最优权衡进行了分析，并提出了一种几何特征，可以限定或精确刻画分类和回归任务的准确性和不变性之间的 Pareto 最优边界。

Dec, 2020

域不变表示中的支持和可逆性

研究表明，学习领域不变表示已成为非监督领域适应的一种流行方法，但其局限性主要在于非反演变换中丢失的信息以及领域不变性是一个过于严格的要求，本研究提出了一种权衡代价的一般化界限，并建议使用测量源域覆盖目标域范围的范围来提高性能。

Mar, 2019

FAIRM：通过极小极大优化实现算法公平性和领域泛化的不变表示学习

通过不变原则，我们提出了一个具有公平性和域泛化特性的基于训练环境的 FAIRM 方法，并在弱分布假设下提供了具有有限样本理论保证的实证 FAIRM。我们开发了高效的算法来实现线性模型中的 FAIRM，并展示了最小化最优性的非渐近性能。我们通过合成数据和 MNIST 数据的数值实验来评估我们的方法，并证明其优于其他方法。

Apr, 2024

构建公平训练数据集的自适应采样策略

本文提出一个数学模型以创造具有代表性的数据来解决机器学习模型在非代表性数据集上产生的问题。我们将数据集创建问题形式化为一个约束优化问题，并提出了一种灵活的方法，它包含模型构建者和其他利益相关者的偏好，以及学习任务的统计特性。此外，我们证明，在一定条件下，即使没有关于学习率的先前知识，该优化问题也可以高效地求解。通过在合成基因组数据上进行的模拟研究，我们发现我们提出的自适应采样策略优于多种常用的数据收集启发式算法，包括等量和比例采样，并证明了通过策略数据集设计构建公平模型的价值。

Jan, 2022