Jun, 2021

透过表征中和实现公平

PDF
TL;DR本文提出了一种名为 RNF 的新的偏差缓解技术，该技术通过仅调节 DNN 模型的任务特定分类头来实现公平，以减少 DNN 模型的歧视，即使输入具有偏差的表示。借助 RNF，我们有效地减少了任务特定性能中的歧视。
bias mitigationdnn modelsfairnessrepresentation neutralizationclassification head
发现论文，激发创造
  • 公平的变换流

    本文提出了公平正则流 (FNF) 的方法来保证公平性，FNF 模型将敏感信息通过对编码器进行归一化流建模的方法来区分不同的群体，从而提供更严格的公平保障与最大不公平性的保障，并证明了其在各种具有挑战性的实际数据集上的有效性。

    Jun, 2021

  • 通过基于梯度的表示解释来消除模型偏差

    本文提出了一种基于代理属性与敏感属性的公平性框架，通过梯度解释找到模型关注点，再利用它们来指导下游任务模型的训练，以实现公平性和效用之间的平衡。实验证明，我们的框架在非分离和分离表示学习方法上具有更好的公平性 - 精度平衡。

    May, 2023

  • 使用不可靠标签的无偏公平性表征学习

    该研究提出了一种名为 DBRF 的公正表示学习框架，通过信息理论概念（例如相互信息和信息瓶颈）解决了标签偏见的问题，旨在实现从不可靠标签中学习面向理想公正标签的公正表示。

    Aug, 2022

  • 通过敏感信息中和实现图神经网络中的公平性

    通过将公平性便利特性（F3）纳入节点特征或表示中，该研究提出了一种名为 FairSIN 的创新中立化范式，从而在保持高预测准确性的同时显著提高公平性指标。

    Mar, 2024

  • 在公平表示和准确性之间填补差距

    通过分析文档和句子的自然语言表示（即编码），我们发现并研究了这些编码中可能存在的针对不同子群体的偏见，并提出了缓解这种偏见的方法同时保持分类模型的较高准确性。

    Apr, 2024

  • 边际无偏网络用于公平视觉识别

    本文提出了一种新颖的边际无偏网络 (MDN) 来学习无偏表示，通过引入边际惩罚的思想设计了边际 softmax 损失 (MSL)，为解决公平性问题而优化 MDN，并通过元学习框架自适应更新边际参数，实现了在各种数据集上实验表明我们的 MDN 在少数人群样本上取得了显著的性能，并在对抗先前方法时获得更好的无偏结果。

    Jan, 2024

  • SensitiveNets: 学习应用于人脸图像的不可知表示

    本文提出了一种新颖的隐私保护神经网络特征表示方法，使得学习到的空间中的敏感信息得以削弱，同时保持数据的实用性；该方法不仅保证了用户数据的隐私，而且还提升了算法的公平性和结果的可行性。

    Feb, 2019

  • 利用公平性来增强敏感属性的重建

    本篇论文提出了一种通用的重构校正方法，可以在满足用户定义的约束条件（如公平性信息）的同时最小化敌手的猜测的更改，并解决了黑盒访问目标模型的情况下反应了培训数据敏感属性的问题。

    Sep, 2022

  • 公正感知学习与无偏表示

    本研究提出一种新算法，可以识别和处理潜在的歧视因素，确保机器学习模型的公平性，从而提高模型性能，实现非歧视分类和回归任务。

    Feb, 2020

  • 通过对抗网络逼近机器学习公平性

    介绍一种新的针对敏感特征的机器学习公平性框架，通过去除敏感信息和最小化敏感特征的边际贡献来改善模型的公平性。实验结果表明，该模型在公平性指标和预测性能方面均优于相关最先进方法。

    Sep, 2019