Mar, 2022

计算机视觉中的下降水平：公平深度分类器中的帕累托效率失灵

PDF
TL;DR应用现有的公平性方法来增强计算机视觉中的公平性，会导致对所有组的分类器性能的降低，但本文通过扩展分类的偏差 - 方差分解来理论上解释了这一现象，并提出了一种自适应增强策略以改善这一问题。
发现论文，激发创造
  • FairALM: 用增广 Lagrangian 方法训练公平模型，减少悔恨

    本文研究了使用公平性度量来指导模型的设计和训练的机制，提出了一种简单但可靠的方法，即在训练模型时同时实现公平，并通过详细的技术分析和实验验证了在计算机视觉训练任务中可靠地实现各种公平性度量。

    Apr, 2020

  • 视觉特征提取器系统评估的公平性指标

    该研究提出了三个公平指标，以量化视觉系统的伤害和偏见，并定义了适用于各种计算机视觉模型的精确实验方案，以促进计算机视觉研究中的公平测评。

    Feb, 2022

  • 改善胸部 X 光分类器的公平性

    通过对 9 种方法公平指标改进的性能进行基准测试，我们发现，相对于实现群体公平的方法，实现最差群体表现的方法并不能胜任在临床设置中对分类器公平进行改进，这一结果证实了对于在数据生成功能机制中存在歧视的机理的调查在临床环境中仍然具有实用性。

    Mar, 2022

  • 利用扩散扰动衡量计算机视觉中的公平性

    通过扩散模型生成多个包含不同种族标签的职业图像集，我们发现使用非高加索标签生成的图像的职业错误分类率显著高于使用高加索标签生成的图像，且部分错误分类表明存在种族偏见。通过计算对不同身份群体预测的真实职业标签的概率标准差，我们测量了模型的公平性。使用这个公平性指标，我们发现在评估的视觉和语言模型之间存在显著差异。我们希望我们的研究展示了使用扩散方法进行公平性评估的潜在价值。

    Nov, 2023

  • 机器学习中促进公平的干预措施比较研究

    本篇研究通过开发公开基准来对不同的公平性增强算法进行比较，并发现许多公平性措施之间具有强烈的相关性，但这些措施也对数据集构成的波动敏感，这表明公平干预可能比以前认为的更脆弱。

    Feb, 2018

  • 公平性 - 准确性帕累托前沿

    本文提出使用 Pareto 前沿和 Chebyshev 标量化方案来解决算法公正中准确性和公正性的平衡问题，并证明 Chebyshev 标量化方案在恢复 Pareto 最优解方面比线性标量化方案具有更好的理论性能和计算成本效益。

    Aug, 2020

  • 算法决策的主动公平性

    本研究提出了一种基于主动框架的公平分类方法，通过根据不同群体或个体的需求自适应获取信息来平衡分类性能差异，证明了该方法可以显著优于基于随机化的分类器。

    Sep, 2018

  • 性别倾斜：通过属性操作实现计算机视觉模型的反事实公平性

    本文提出了一种使用编码器 - 解码器网络开发的人脸图像合成方法，以测量商业计算机视觉分类器的反事实公平性，并报告了在线搜索服务中与职业相关的关键字中出现的偏向性，用以解释模型偏差的来源。

    May, 2020

  • 高效公平主成分分析

    提出一种适应性一阶算法，通过使用 Pareto 最优性的概念来学习保持公平性，同时略微牺牲重构损失的子空间，证明了该算法的解对于所有敏感群体都属于 Pareto 前沿，从而保证了整体重建损失和公平约束之间的最优权衡，并提供了收敛分析和验证了该算法在各种数据集上的优异性能。该算法可有效地将不公平决策降至最低，并可推广至多组敏感特征。

    Nov, 2019

  • 训练公平神经网络的技术挑战

    机器学习算法已被广泛应用在各种领域，然而由此带来的公平性问题在高风险案例（如人脸识别和医学影像分析）中引起了极大关注。本文针对深度神经网络中公平性的限制条件及其行为矫正方法的有效性进行了研究，实验结果表明，在特定公平度量下，大型模型会对公平的过度拟合而产生一系列意外和不良后果。

    Feb, 2021