Nov, 2023

FAIRLABEL：修正标签偏差

PDF
TL;DR提出了 FAIRLABEL 算法，用于检测和修正标签中的偏见，以减少群体间的不平等影响，同时保持高预测准确性。在合成数据集上验证 FAIRLABEL 时，显示标签修正正确率为 86.7％，而基准模型为 71.9％。在 UCI Adult、German Credit Risk 和 Compas 数据集上应用 FAIRLABEL，显示不平等影响比增加了高达 54.2％。
fairnessml modelsground truthbiaseslabel correction
发现论文，激发创造
  • 标签噪音校正对机器学习公正性影响的系统分析

    通过实证方法，我们评估了六种标签噪音修正方法在多个公正度度量标准上的表现，结果表明混合标签噪音修正方法在预测性能和公正度之间取得了最佳平衡，而基于聚类的修正方法可以最大程度地减少歧视但降低了预测性能。

    Jun, 2023

  • 机器学习中识别和纠正标签偏差

    本文提出了一种数学公式来证明数据集中的偏见对分类器的影响，通过无需改变标签来重新计算数据点的值，从而得到一个无偏分类器，这种方法可以在各种机器学习算法中使用，并实现了公平分类的目标。

    Jan, 2019

  • AIM：归因、解释、减轻数据不公平

    数据收集中的历史性歧视对弱势群体和个体产生了影响。现有的公平机器学习研究主要致力于减轻模型预测中的歧视倾向，但对于如何追踪数据中存在的偏见却付出了较少的努力，尽管这对公平机器学习的透明度和可解释性非常重要。为了填补这一空白，我们研究了一个新的问题：发现在训练数据中反映偏见 / 偏见的样本。基于现有的公平性概念，我们提出了一个样本偏见准则，并提出了衡量和抵消样本偏见的实用算法。得出的偏见分数提供了历史偏见在数据中的直观样本级归因和说明。在此基础上，我们通过基于样本偏见的最小数据编辑设计了两种公平机器学习策略。它们可以在最小或零的预测效用损失的情况下，减轻群体和个体的不公平现象。对多个真实世界数据集的大量实验和分析证明了我们方法在解释和减轻不公平方面的有效性。代码可在此 URL 获取：https://URL

    Jun, 2024

  • 通过模型和数据偏差交互理解欺诈检测中的不公平性

    机器学习算法应用广泛，但也可能存在偏见和不公平。本研究提出了一种刻画数据偏见的分类法，并探究了算法的不公平和精度之间的权衡。实证研究表明，在不同的数据偏见设置下，算法的公平性和精度会受到不同的影响，而简单的预处理干预技术可以提高算法的公平性。

    Jul, 2022

  • 如何做到公平？对标签和选择偏差的研究

    存在情况下，偏见缓解技术能够更准确的模型，在无偏数据上测量时。我们通过对偏见类型和缓解技术的效果建立关系来解决这一问题，并用理论分析来解释实验结果，并展示最小化公平度量并不一定会产生最公平的分布。

    Mar, 2024

  • 回归机器学习问题中的公平性归一化：一种简单的归一化技术

    通过归一化的方式，该研究提出了一种名为 FaiReg 的简单有效的方法，用于最小化回归问题中的不公平影响，特别是由于标签偏差引起的影响，与数据平衡和对抗训练相比表现更优，同时不会像对抗训练一样破坏原来问题的性能。

    Feb, 2022

  • 大规模标签空间中问题偏见的可视化识别

    为了解决大标签空间下现代模型和数据集的公平性，我们提出了一种可视化方法来解决该领域缺乏视觉分析工具的问题，这种方法可以帮助领域专家提取和推理模型和数据集中的偏差以系统地进行比较和公平性评估。

    Jan, 2022

  • 医学影像公平性基准测试

    该研究介绍了 MEDFAIR 框架，可以用于医学成像机器学习模型的公平性评估和算法的基准测试，通过实验发现模型选择标准可以对公平性结果产生重要影响，并在不同的应用场景和伦理原则下提供了建议。

    Oct, 2022

  • 关于在数据偏差下测试和比较公平分类器

    本文针对注入数据偏差的理论模型，从理论和经验上研究了它对公平分类器准确性和公正性的影响，并证明了在重新加权偏差注入分布上最小化选择精心挑选的重加权损失可以恢复原始数据分布上的贝叶斯最优组感知公平分类器。通过广泛的实验，我们检查了标准公平工具包中的预处理公平分类器在训练数据注入不同程度的偏差时的公平性和准确性，并发现少量简单公平技术，如重新加权、指数梯度，在其训练数据注入欠代表性和标签偏差时也可以提供稳定的准确度和公平性保证。

    Feb, 2023

  • 机器学习中缓解标签偏差：自信学习实现公平

    通过筛选最公正的实例并扩展概率阈值的置信区间，结合共同教学范式以提供更可靠的选择，有效地减轻偏见标签带来的不良影响，我们的方法证明在促进公平和减少机器学习模型中标签偏见方面的有效性。

    Dec, 2023