May, 2023

通过基于梯度的表示解释来消除模型偏差

PDF
TL;DR本文提出了一种基于代理属性与敏感属性的公平性框架，通过梯度解释找到模型关注点，再利用它们来指导下游任务模型的训练，以实现公平性和效用之间的平衡。实验证明，我们的框架在非分离和分离表示学习方法上具有更好的公平性 - 精度平衡。
machine learningfairness problemrepresentation learningdebiasingdownstream task models
发现论文，激发创造
  • 通过解缠来实现灵活公平的表示学习

    该研究论文探讨了学习表示方法和多个敏感属性之间实现群体和子群体公平性的方法，通过提出一种算法来实现紧凑立体的数据表示，该算法可以灵活地进行公平性调整，同时不需要使用敏感属性进行推理，拥有较好的分类效果。

    Jun, 2019

  • 利用公平性来增强敏感属性的重建

    本篇论文提出了一种通用的重构校正方法，可以在满足用户定义的约束条件（如公平性信息）的同时最小化敌手的猜测的更改，并解决了黑盒访问目标模型的情况下反应了培训数据敏感属性的问题。

    Sep, 2022

  • 公正感知学习与无偏表示

    本研究提出一种新算法，可以识别和处理潜在的歧视因素，确保机器学习模型的公平性，从而提高模型性能，实现非歧视分类和回归任务。

    Feb, 2020

  • 通过对抗性框架学习公平表示

    本文介绍了一个最小二乘对抗框架，其中一个发生器生成学习个体的潜在表示，一个评论家保证了不同保护组的分布相似，从而在保留足够信息的同时解决了受保护属性引起的潜在偏差问题，为公平分类提供了理论保证。经验结果表明，这种方法可以有效地用于分类任务，特别是在删除受保护属性不足以实现公平分类的情况下。

    Apr, 2019

  • 关于解缠和局部公平的表示

    通过分离表示的方式，研究了如何在敏感属性方面实现本地公平来实现公平分类，并在预测收入和再监禁率等真实场景下验证了该方法的优点。

    May, 2022

  • 通过潜空间去偏置实现公平的属性分类

    本文介绍了一种使用 GAN 生成图像并在潜在空间中扰动以生成可以平衡每个受保护属性的训练数据的方法，以缓解由相关性所引起的偏差，通过在原始数据集上增加扰动生成的数据，实证证明训练结果准确且具有许多定量和定性上的优势。在 CelebA 数据集上进行了全面评估和分析，与现有文献进行了比较。

    Dec, 2020

  • 控制偏见暴露以实现公平和可解释的预测

    本文提出了一种公平去偏算法，通过调整预测模型的信念，尽可能使用敏感信息来进行预测，并在必要性最小化的同时承受一定的惩罚，以达到去偏和任务性能之间的理想平衡，并生成经过去偏的证明。

    Oct, 2022

  • 学习正交解缠表示以实现公平性

    本文提出了一种新颖的分离方法来解决不变表示的问题，通过正交约束作为独立的代理来将有意义和敏感表示分离，并通过熵最大化来明确地强制有意义的表示对敏感信息不可知。该方法在公开的数据集上进行了评估，并将其与最先进的方法进行了比较，证明其在处理公平性和不变性方面具有最先进的性能。

    Mar, 2020

  • 学习平滑和公平的表示

    为了防止受保护人口受到歧视，减轻数据拥有者法律责任，本文尝试通过映射特征到公平表征空间，预防性地消除特征与敏感属性之间的相关性。实验结果表明，平滑表征分布可提供公平证书的泛化保证，同时不降低下游任务的准确性。

    Jun, 2020

  • 通过生成代理敏感属性标签实现实际偏见缓解

    通过提出的无监督代理敏感属性标签生成技术来解决在机器学习系统中的偏见问题，该方法包括无监督嵌入生成和聚类两个阶段，其有效性依赖于偏见通过与敏感属性相关的非敏感属性传播，并在高维潜在空间中映射为不同人口群体的聚类。实验结果表明，使用现有算法进行偏见缓解可以得到与真实敏感属性相比可比较的结果。

    Dec, 2023