Feb, 2018

学习对抗公平且可迁移的表示

PDF
TL;DR本文旨在探讨用表示学习降低预测结果中的不公平因素。针对第三方使用这些学习到的表示却又不明确目标的情境，我们提出了对抗性表示学习方法来确保使用方的公平性。我们将群体公平（人口平等、平等赔率和平等机会）与不同的对抗目标联系起来，通过最坏情况的理论保证和实验验证，我们证明了对该目标的选择对于公平预测是至关重要的。此外，我们还展示了公平迁移学习的首个深入实验演示，并经验证明了我们学习到的表示在保持实用性的同时对新任务具有公平预测的能力，这是公平表示学习的重要目标。
发现论文，激发创造
  • 学习可控的公平表征

    本文提出了一种信息理论动机的目标函数，用于学习在公平约束条件下最具表达力的数据表示，旨在通过控制不公平性极限的方式帮助用户控制数据表示的公平性，证明了现有方法无法完全实现此目标，通过引入一种优化模型参数和表达力 - 公平性权衡的方法来平衡多种公平概念的权衡，并在更低的计算成本下实现更高的表达能力。

    Dec, 2018

  • 通过对抗性框架学习公平表示

    本文介绍了一个最小二乘对抗框架，其中一个发生器生成学习个体的潜在表示，一个评论家保证了不同保护组的分布相似，从而在保留足够信息的同时解决了受保护属性引起的潜在偏差问题，为公平分类提供了理论保证。经验结果表明，这种方法可以有效地用于分类任务，特别是在删除受保护属性不足以实现公平分类的情况下。

    Apr, 2019

  • 学习可解释的公平表示

    利用在表示学习过程中引入可解释的 “先验知识”，我们提出了一个学习可解释公平表达的通用框架，并在 ColorMNIST 和 Dsprite 数据集上进行实验证明，在下游分类任务中，与最先进的公平表达相比，我们的表达不仅可解释，而且准确性稍高且结果更公平。

    Jun, 2024

  • 使用阻尼和堆叠的对抗生成的公平特征表示

    研究利用减震和堆叠学习对抗性公正表征并在审查和重建方面改善了早期工作。

    Mar, 2022

  • 对抗式叠加自编码器用于公平表示学习

    本研究提出了一种基于不同层级的数据表征的公平表征学习方法，通过堆叠不同的自编码器在不同的潜在空间强制执行公平性，更好地满足公平度量标准并提高数据表征的公平性。

    Jul, 2021

  • 通过对抗特征学习实现可控的不变性

    本文提出了一种通过对抗学习策略学习能够抵抗特定数据因素影响的新型表示学习方法，并通过多个基准测试表明所提出的方法可以获取到不变表示，从而提高模型的泛化能力。

    May, 2017

  • 有条件的公平表达学习

    本篇研究旨在提出一种新算法，用于学习公平的表征，以在分类环境下同时缓解不同人口统计特征子组之间的两种不平等概念。通过平衡误差率和条件对齐的表征等两个关键组件，它对确保跨组别的准确平等性和平衡假阳性和假阴性率发挥了作用。此外，我们还通过理论和两个实际实验证明，与现有的学习公平表征的算法相比，在平衡数据集上提出的算法可以在保持效用公平性的前提下得到更好的公平性。

    Oct, 2019

  • 学习平滑和公平的表示

    为了防止受保护人口受到歧视，减轻数据拥有者法律责任，本文尝试通过映射特征到公平表征空间，预防性地消除特征与敏感属性之间的相关性。实验结果表明，平滑表征分布可提供公平证书的泛化保证，同时不降低下游任务的准确性。

    Jun, 2020

  • 可证明公正的表述

    本文介绍了一种基于代表函数的方法，证明了其可实现机器学习中的公平，适用于聚合模型，具有透明度和防止恶性激励的优势，并应用于金融和刑事司法数据集。

    Oct, 2017

  • 公平表征的对比学习

    本论文提出了一种采用对比学习的分类器去偏置化的方法，使得模型在保持主要任务性能的前提下，更加公平地代表输入的各种属性，并取得了在 NLP 和计算机视觉四个任务中的优异表现。

    Sep, 2021