有条件的公平表达学习

Oct, 2019

Conditional Learning of Fair Representations

Han Zhao, Amanda Coston, Tameem Adel, Geoffrey J. Gordon

TL;DR本篇研究旨在提出一种新算法，用于学习公平的表征，以在分类环境下同时缓解不同人口统计特征子组之间的两种不平等概念。通过平衡误差率和条件对齐的表征等两个关键组件，它对确保跨组别的准确平等性和平衡假阳性和假阴性率发挥了作用。此外，我们还通过理论和两个实际实验证明，与现有的学习公平表征的算法相比，在平衡数据集上提出的算法可以在保持效用公平性的前提下得到更好的公平性。

Abstract

We propose a novel algorithm for learning fair representations that can simultaneously mitigate two notions of disparity among different demographic subgroups in the classification setting. Two key components und

fair representations disparity balanced error rate conditional alignment utility-fairness trade-off

发现论文，激发创造

有条件的监督对比学习：公平的文本分类

提出使用有条件的监督对比目标学习在文本分类中学习公平代表的方法，以平衡在现有基准线中任务表现和偏差缓解之间的权衡，并在两个文本数据集上进行实验，展示了该方法的有效性。

May, 2022

DualFair: 基于对比自监督的群体和个体公平表示学习

本文提出了一种名为 DualFair 的自我监督模型，可从学到的表示中去除诸如性别和种族等敏感属性的偏差，同时优化两个公平标准，团体公平性和反事实公平性，为团体和个体提供更公平的预测，针对多个数据集进行了详细的分析，表明了该模型的有效性和进一步展示了同时解决两种公平标准的协同效应，同时建议该模型在公平的智能 Web 应用中具有潜在价值。

Mar, 2023

通过对抗性框架学习公平表示

本文介绍了一个最小二乘对抗框架，其中一个发生器生成学习个体的潜在表示，一个评论家保证了不同保护组的分布相似，从而在保留足够信息的同时解决了受保护属性引起的潜在偏差问题，为公平分类提供了理论保证。经验结果表明，这种方法可以有效地用于分类任务，特别是在删除受保护属性不足以实现公平分类的情况下。

Apr, 2019

通过解缠来实现灵活公平的表示学习

该研究论文探讨了学习表示方法和多个敏感属性之间实现群体和子群体公平性的方法，通过提出一种算法来实现紧凑立体的数据表示，该算法可以灵活地进行公平性调整，同时不需要使用敏感属性进行推理，拥有较好的分类效果。

Jun, 2019

学习公平表达的固有折衷

本文研究了分类问题中的公平性和准确性之间的权衡，并提供了任何公平分类器群体误差和任何（近似）公平分类器的联合误差的下限，从公平表示学习角度推广这个结果。

Jun, 2019

学习平滑和公平的表示

为了防止受保护人口受到歧视，减轻数据拥有者法律责任，本文尝试通过映射特征到公平表征空间，预防性地消除特征与敏感属性之间的相关性。实验结果表明，平滑表征分布可提供公平证书的泛化保证，同时不降低下游任务的准确性。

Jun, 2020

学习对抗公平且可迁移的表示

本文旨在探讨用表示学习降低预测结果中的不公平因素。针对第三方使用这些学习到的表示却又不明确目标的情境，我们提出了对抗性表示学习方法来确保使用方的公平性。我们将群体公平（人口平等、平等赔率和平等机会）与不同的对抗目标联系起来，通过最坏情况的理论保证和实验验证，我们证明了对该目标的选择对于公平预测是至关重要的。此外，我们还展示了公平迁移学习的首个深入实验演示，并经验证明了我们学习到的表示在保持实用性的同时对新任务具有公平预测的能力，这是公平表示学习的重要目标。

Feb, 2018

关于解缠和局部公平的表示

通过分离表示的方式，研究了如何在敏感属性方面实现本地公平来实现公平分类，并在预测收入和再监禁率等真实场景下验证了该方法的优点。

May, 2022

公正和校准

本论文探讨了在不同人群中最小化误差差异和维护校准概率估计之间的紧张关系，并表明校准只与单一误差约束兼容。

Sep, 2017

公平表征的对比学习

本论文提出了一种采用对比学习的分类器去偏置化的方法，使得模型在保持主要任务性能的前提下，更加公平地代表输入的各种属性，并取得了在 NLP 和计算机视觉四个任务中的优异表现。

Sep, 2021