ICLRDec, 2020

FairBatch: 用于模型公正性的批量选择

PDF
TL;DR通过双层优化算法，提出了一种名为 FairBatch 的算法，可以通过自适应地选择小批量来改善模型公平性。这种算法不需要对数据预处理或模型训练进行广泛改变，可与现有的批量选择技术兼容，并提供卓越的性能表现。
machine learningfairnessoptimizationbatch selectionpytorch
发现论文，激发创造
  • 关于对抗偏差和公正机器学习的鲁棒性

    为保证公正性，公平机器学习算法致力于消除不同群体间的行为差异，但是研究表明，在训练数据存在偏差的情况下，将同等的重视不同规模和分布的不同群体，可能会与鲁棒性相冲突，攻击者可以通过对样本和标签的控制来攻击群体公平性机器学习，从而在测试数据上显著降低测试准确率，本文评估了多种算法和基准数据集的攻击，分析了公平机器学习的鲁棒性。

    Jun, 2020

  • 模型训练中优化平等机会公平性

    本研究提出了两种新的训练目标，直接优化了广泛使用的平等机会标准，并证明它们在两个分类任务中减少偏见的同时保持高性能。

    May, 2022

  • 基于奇偶校验的累积公平感知 Boosting

    该研究提出了 AdaFair 算法，它可以有效地处理数据驱动的人工智能系统中的歧视问题，在平衡不足的情况下实现了性别、种族等保护属性的公平，同时保持预测性能。

    Jan, 2022

  • 在微调预训练模型中消除偏见以提升公平性和效率

    通过引入一种有效且鲁棒的微调框架来解决在新任务上进行预训练模型微调可能导致不公平结果的问题，该框架中融合了权重重要性中和策略和矩阵因子分解技术，通过实验验证了其有效性。

    Mar, 2024

  • 朝着阈值不变的公平分类

    本文提出了门槛不变的公平性的概念，通过两种近似方法来均衡不同群体之间的风险分布，实现了对机器学习模型公平性的提高。

    Jun, 2020

  • 算法决策的主动公平性

    本研究提出了一种基于主动框架的公平分类方法，通过根据不同群体或个体的需求自适应获取信息来平衡分类性能差异，证明了该方法可以显著优于基于随机化的分类器。

    Sep, 2018

  • 回归机器学习问题中的公平性归一化：一种简单的归一化技术

    通过归一化的方式，该研究提出了一种名为 FaiReg 的简单有效的方法，用于最小化回归问题中的不公平影响，特别是由于标签偏差引起的影响，与数据平衡和对抗训练相比表现更优，同时不会像对抗训练一样破坏原来问题的性能。

    Feb, 2022

  • 积极学习是否可以预防公平性问题？

    本文研究使用基于不确定性的主动学习启发式方法（如 BALD）训练的模型是否比使用独立同分布（i.i.d.）采样训练的模型在决策中对受保护类别具有更高的预测平等性，并探讨了算法公平性方法（如 GRAD 和 BALD）的交互作用，表明在大多数基准和度量标准上交互作用进一步提高了结果。

    Apr, 2021

  • 公平稳健训练的样本选择

    提出了一种基于样本选择的算法来进行公平和鲁棒性训练，通过解决组合优化问题来实现样本无偏选择，并通过贪心算法解决了 NP 难问题，实验结果表明该算法在合成和基准真实数据集上具有优越的公平和鲁棒性。

    Oct, 2021

  • 机器学习在医疗领域中公平特征选择的评估

    在普遍采用机器学习的医疗领域，自动化的社会偏见可能会加剧健康差距，我们探索了从特征选择的角度来解决算法公平性。传统的特征选择方法忽视了不同子群体之间这些因素的差异，而我们的公平特征选择方法考虑了所有人口群体的平等重要性。我们在三个公开可用的医疗数据集上测试了我们的方法，在这三个数据集上，我们观察到在公平性度量指标上的改善，同时平衡准确率仅有轻微下降。我们的方法解决了公平机器学习背景下的分配和程序公正性问题。

    Mar, 2024