Dec, 2023

通过 AIF360 对重新加权样本进行偏差缓解的综合验证

PDF
TL;DR这篇研究论文系统地研究了对传统机器学习模型中重新加权样本的有效性，通过对 Adult Income 和 COMPUS 数据集上的五个模型进行二分类，并使用五个公平度量评估预测结果，揭示了实现传统机器学习模型公正性的重新加权样本的复杂性，以及偏倚动态的复杂性。
fairness aidata biasreweighting samplesmachine learning modelsfairness metrics
发现论文，激发创造
  • M$^3$Fair: 通过多级和多敏感属性的重新加权方法缓解医疗数据中的偏见

    本文提出 M3Fair 方法，将 RW 方法扩展到多个敏感属性和多个级别，以减轻数据中的偏见，增强医疗公平性。

    Jun, 2023

  • 自适应优先权重新加权以提高公平性泛化

    通过提出一种新颖的自适应重新加权方法，该论文旨在消除训练和测试数据之间分布变化对模型普适能力的影响，进而改善算法的公平性和泛化性能。实验证明了该方法在准确性和公平性度量方面的普适性，并突出了对语言和视觉模型公平性改善的性能提升。

    Sep, 2023

  • AI Fairness 360: 检测、理解和缓解不良算法偏差的可扩展工具包

    介绍了一种新的开源 Python 工具包 - AI Fairness 360 (AIF360)，用于支持决策性应用程序的算法公平性，该工具包包括公平度量标准、算法对数据集和模型执行偏差检测和修复以及参考指南和教程。

    Oct, 2018

  • 通过平衡影响训练公平的深度神经网络

    我们提出了一个名为 FAIRIF 的两阶段训练算法，它可以应用于一系列使用随机梯度下降训练的模型，并通过在小型验证集上计算样本权重来实现跨不同人口群体的模型性能平衡，从而缓解先前机器学习算法中存在的不公平问题。在合成数据集和实际数据集上的实验表明，FAIRIF 可以在牺牲很少的模型实用性的情况下实现更好的公平性 - 实用性权衡。

    Jan, 2022

  • AdaFair: 累积公平自适应提升算法

    研究机器学习如何处理公平性和防止基于敏感属性的预测性歧视问题，并提出一种名为 AdaFair 的基于 AdaBoost 分类器的方法，该方法显式地处理类别不平衡并在维持分类准确性的同时优化公平性，实验证明其在平衡错误方面比现有的公平性方法表现显著好 25％。

    Sep, 2019

  • 利用神经网络指导的因果公平数据集重采样

    通过采用两个神经网络，其中一个反映了因果图的结构，另一个反映了干预图的结构，该研究提出了一种改进数据集的重新加权方法，以实现因果公平性，并在实验中证明了其有效性。

    Nov, 2023

  • 以 Wasserstein 距离为指导的对抗性权重调整用于偏见缓解

    通过对抗再加权方法来解决机器学习中的表征偏差，平衡数据分布以减少对少数群体的不公正对待，从而提高分类准确性和公平性。

    Nov, 2023

  • 通过对抗加权学习实现无需人口统计学的公正性

    我们提出 Adversarially Reweighted Learning (ARL) 来解决机器学习（ML）公平性研究中的现实问题：如何在不知道保护组成员身份的情况下训练 ML 模型以提高公平性，我们的结果显示，ARL 可以提高 Rawlsian Max-Min 公平性，在多个数据集中最坏情况下保护组的 AUC 得分优于现有的最先进方法。

    Jun, 2020

  • 针对监督学习模型的个体不公平性识别、测量和缓解以及其在信用风险模型中的应用

    本文旨在通过实现一个两步训练过程来识别和减轻个人不公平，并利用最近在此领域发表的一些技术，特别是在信贷审批用例中适用的技术。我们还调查了实现个人公平性的技术在实现团体公平性方面的有效程度以及提出了第二度量标准来确定模型如何公平地处理类似的个体，最后呈现了一些与个人不公平减轻技术相关的实验结果。

    Nov, 2022

  • 关于公平感知机器学习数据集的调查

    本文概述了应用于公平感知机器学习中的真实世界数据集，并使用贝叶斯网络分析数据特征之间的关系，进一步进行了探索性分析。

    Oct, 2021