Jun, 2020

通过对抗加权学习实现无需人口统计学的公正性

PDF
TL;DR我们提出 Adversarially Reweighted Learning (ARL) 来解决机器学习（ML）公平性研究中的现实问题：如何在不知道保护组成员身份的情况下训练 ML 模型以提高公平性，我们的结果显示，ARL 可以提高 Rawlsian Max-Min 公平性，在多个数据集中最坏情况下保护组的 AUC 得分优于现有的最先进方法。
machine learningfairnessprotected featuresarlrawlsian max-min fairness
发现论文，激发创造
  • 有限人口分类标记数据下的公平机器学习

    本研究提出了一种新型的公平训练算法，该算法在尽可能保护个人隐私的情况下，避免了在机器学习模型中存在不良社会偏见的问题。实验结果显示，该算法可以有效降低社会偏见问题。

    Jun, 2021

  • 通过对抗性框架学习公平表示

    本文介绍了一个最小二乘对抗框架，其中一个发生器生成学习个体的潜在表示，一个评论家保证了不同保护组的分布相似，从而在保留足够信息的同时解决了受保护属性引起的潜在偏差问题，为公平分类提供了理论保证。经验结果表明，这种方法可以有效地用于分类任务，特别是在删除受保护属性不足以实现公平分类的情况下。

    Apr, 2019

  • 通过对抗网络逼近机器学习公平性

    介绍一种新的针对敏感特征的机器学习公平性框架，通过去除敏感信息和最小化敏感特征的边际贡献来改善模型的公平性。实验结果表明，该模型在公平性指标和预测性能方面均优于相关最先进方法。

    Sep, 2019

  • AdaFair: 累积公平自适应提升算法

    研究机器学习如何处理公平性和防止基于敏感属性的预测性歧视问题，并提出一种名为 AdaFair 的基于 AdaBoost 分类器的方法，该方法显式地处理类别不平衡并在维持分类准确性的同时优化公平性，实验证明其在平衡错误方面比现有的公平性方法表现显著好 25％。

    Sep, 2019

  • 公正感知学习与无偏表示

    本研究提出一种新算法，可以识别和处理潜在的歧视因素，确保机器学习模型的公平性，从而提高模型性能，实现非歧视分类和回归任务。

    Feb, 2020

  • FairALM: 用增广 Lagrangian 方法训练公平模型，减少悔恨

    本文研究了使用公平性度量来指导模型的设计和训练的机制，提出了一种简单但可靠的方法，即在训练模型时同时实现公平，并通过详细的技术分析和实验验证了在计算机视觉训练任务中可靠地实现各种公平性度量。

    Apr, 2020

  • 自适应优先权重新加权以提高公平性泛化

    通过提出一种新颖的自适应重新加权方法，该论文旨在消除训练和测试数据之间分布变化对模型普适能力的影响，进而改善算法的公平性和泛化性能。实验证明了该方法在准确性和公平性度量方面的普适性，并突出了对语言和视觉模型公平性改善的性能提升。

    Sep, 2023

  • 当对抗性学习公平表征时的数据决策与理论含义

    本文研究通过对抗训练神经网络来消除敏感属性信息从而实现分类器 “公平” 的方法。发现只需要少量数据即可训练出具有公平性的分类器，并且数据分布影响对手的公平概念。

    Jul, 2017

  • 保护受保护群体：规避有害公平性

    介绍了一种名为 Welfare-Equalizing 的公平算法，旨在保护受保护群体。该方法提供了一种公平性数据分类的统一框架，以及一种计算最优分类器的算法。

    May, 2019

  • 公平重编程

    本文提出了一种名为 FairReprogram 的通用公平学习范式，旨在消除机器学习模型中存在的人口统计偏差问题，该方法通过在输入数据中追加多组扰动向量，使得机器学习模型无法准确获取输入数据的真实信息从而达到公平的目标。实验证明此方法显著有效，并且效果比现有的基于重新训练权值的方法要好。

    Sep, 2022