Nov, 2023

基于 Wasserstein 独立性的公平文本分类

PDF
TL;DR该论文提出了一种新的方法来减轻神经文本分类中的偏见，它能够在处理公正性问题时不需要敏感属性的注释，与现有的方法相比具有可比较或更好的公正性和准确性权衡。
group fairnesstext classificationbiasesneural text classificationfairness-accuracy trade-off
发现论文，激发创造
  • Wasserstein 公平分类

    我们提出了一种公平分类的方法，通过最小化 Wasserstein-1 距离来强制执行分类器输出和敏感信息之间的独立性。我们引入了不同的方法，在测试时隐藏敏感信息，或具有简单快速的实现，并展示了在多个基准公平性数据集上与不同公平性基线的实证表现。

    Jul, 2019

  • 基于 Wasserstein 的机器学习模型公平性解释框架

    本文介绍了一种公平解释性框架，用于在分布级别上测量和解释分类和回归模型中的偏见。通过使用 Wasserstein 度量，在模型输出的亚群分布上测量模型偏差，考虑模型和预测变量相对于非受保护类的有利性，使用运输理论进行量化，并通过博弈理论的技术实现偏见解释的可加性。

    Nov, 2020

  • 一种分布鲁棒的公平分类方法

    提出了一种具有不公平惩罚的分布鲁棒逻辑回归模型，可以使用 Wasserstein ball 来对分布不确定性进行建模以实现公平机会并提高公平性。

    Jul, 2020

  • 通过 Wasserstein Barycenters 实现多任务学习的公平性

    本文提出一种用于多任务学习的算法公平性方法，该方法通过使用多项 Wasserstein barycenter 扩展 “Strong Demographic Parity” 的定义，为具有回归和二分类任务的多任务学习器提供了封闭形式解决方案，并应用于合成和现实数据集上以展示其在促进公平决策方面的实际价值。

    Jun, 2023

  • 自然语言处理中的人类辅助公正分类

    本研究提出了使用无监督风格转移和 GPT-3 的零 - shot 技术发现具有表达性和直观性的个体公平规范的新方法，以解决文本分类器中公平性问题。我们使用众包研究验证了所生成的具有人类直觉的公平排除敏感属性的语句对，并展示了有限数量的人类反馈如何帮助训练一种相似度规范来训练下游的公平感知模型。

    Dec, 2022

  • 内容条件去偏差以实现公平的文本嵌入

    在自然语言处理领域，解决机器学习模型中的偏见问题日益受到关注。本文提出了一种学习公平文本嵌入的新方法，通过确保在内容条件下敏感属性与文本嵌入之间的条件独立性，同时实现公平性并保持效用平衡。通过使用大型语言模型将文本扩充为不同敏感组，解决了缺乏适当训练数据的问题。我们的广泛评估表明，我们的方法在提高公平性的同时保持了嵌入的实用性，是在实现公平文本嵌入的条件独立性方面的先驱性工作。

    Feb, 2024

  • 通过平衡影响训练公平的深度神经网络

    我们提出了一个名为 FAIRIF 的两阶段训练算法，它可以应用于一系列使用随机梯度下降训练的模型，并通过在小型验证集上计算样本权重来实现跨不同人口群体的模型性能平衡，从而缓解先前机器学习算法中存在的不公平问题。在合成数据集和实际数据集上的实验表明，FAIRIF 可以在牺牲很少的模型实用性的情况下实现更好的公平性 - 实用性权衡。

    Jan, 2022

  • 以 Wasserstein 距离为指导的对抗性权重调整用于偏见缓解

    通过对抗再加权方法来解决机器学习中的表征偏差，平衡数据分布以减少对少数群体的不公正对待，从而提高分类准确性和公平性。

    Nov, 2023

  • Wasserstein 双凸权重平均的公平回归

    通过公平回归和最优输运理论的联系，得到一种最优公平的预测器，并建议了一个简单的后处理算法来实现公平。这个结果提出了最优公平预测的直观解释，并为这个过程建立了风险和无分布的公平保证。

    Jun, 2020

  • DualFair: 基于对比自监督的群体和个体公平表示学习

    本文提出了一种名为 DualFair 的自我监督模型，可从学到的表示中去除诸如性别和种族等敏感属性的偏差，同时优化两个公平标准，团体公平性和反事实公平性，为团体和个体提供更公平的预测，针对多个数据集进行了详细的分析，表明了该模型的有效性和进一步展示了同时解决两种公平标准的协同效应，同时建议该模型在公平的智能 Web 应用中具有潜在价值。

    Mar, 2023