改善胸部 X 光分类器的公平性

Mar, 2022

Improving the Fairness of Chest X-ray Classifiers

Haoran Zhang, Natalie Dullerud, Karsten Roth, Lauren Oakden-Rayner, Stephen Robert Pfohl...

TL;DR通过对 9 种方法公平指标改进的性能进行基准测试，我们发现，相对于实现群体公平的方法，实现最差群体表现的方法并不能胜任在临床设置中对分类器公平进行改进，这一结果证实了对于在数据生成功能机制中存在歧视的机理的调查在临床环境中仍然具有实用性。

Abstract

deep learning models have reached or surpassed human-level performance in the field of medical imaging, especially in disease diagnosis using chest x-rays. However, prior work has found that such classifiers can

deep learning medical imaging classifier fairness bias

发现论文，激发创造

超越你所见：使用种族健康不平等社会决定因素对多标签胸部 X 射线分类进行子群交叉公平性的实证分析

通过使用深度学习模型，本研究在疾病诊断方面取得了重要进展，在使用胸部 X 射线上具有很大潜力。然而，这些模型中存在的固有偏见可能导致预测准确性在不同保护组之间存在差异。为了实现准确的诊断结果并确保在交叉组之间公平性，我们提出了一个框架，用于在高维胸部 X 射线多标签分类任务中实现公平性。该框架不仅考虑传统的受保护属性，还考虑了社会决定因素中的复杂交互作用，使得公平性的评估更加细致。我们提出了一种简单而强大的方法，通过使用跨组平衡的数据集来重新训练预训练模型的最后分类层。此外，我们还考虑了公平性约束，并在多标签设置中集成了类别平衡微调。我们在 MIMIC-CXR 数据集上评估了我们的方法，结果表明与基准方法相比，我们的框架在准确性和公平性之间实现了最佳权衡。

Mar, 2024

深度胸透分类器中的公平差距

在医学影像方面，机器学习系统已经受到了广泛的关注。本文检查了最先进的深度学习分类器在从 X 光图像中产生诊断标签方面的性能偏差程度，发现在所有数据集，所有临床任务和所有子群体中都存在 TPR 差异。

Feb, 2020

临床风险预测公平机器学习的实证表征

该研究探讨了使用机器学习指导临床决策可能加剧现有的健康差距问题的潜力，并分析了算法公平的适用性、技术限制以及与机器学习在医疗保健中使用相关的社会技术背景。研究结果表明，在对各组之间的预测分布差异进行惩罚的情况下，几乎所有团体内的多项绩效指标都会降低，并且算法公平性方法在消除健康差距方面仍存在许多有待解决的问题。

Jul, 2020

持续学习中医学图像的公平性演变

通过使用领域特定的公平度量，我们评估了反复学习策略在医学图像分类任务中的偏差演化，发现伪标签策略具有更小的偏差，因此在考虑模型公平性的现实场景中应优先选择该策略。

Apr, 2024

公平医学影像 AI 在实际应用中的局限性

人工智能在医学影像学中逼近人类水平的表现，但其是否在不同人群中造成不公平的预测是一个关键问题。本研究对医学影像学中人工智能使用人口统计学编码的程度进行了深入调查，发现在新的测试环境中，较少编码人口统计属性的模型往往表现出更好的公平性。我们的研究为医学影像学模型在超出初始训练环境中保持性能和公平性提供了最佳实践。

Dec, 2023

深度学习基于分割的心脏 MR 图像分析中由于数据不平衡导致的偏差调查

该研究讨论了使用神经网络建立心脏数据的图像分割模型时，数据库不平衡导致的种族偏见，提出了三种解决方案，并发现 protected group models 的使用最有效。

Jun, 2021

医学影像公平性基准测试

该研究介绍了 MEDFAIR 框架，可以用于医学成像机器学习模型的公平性评估和算法的基准测试，通过实验发现模型选择标准可以对公平性结果产生重要影响，并在不同的应用场景和伦理原则下提供了建议。

Oct, 2022

计算机视觉中的下降水平：公平深度分类器中的帕累托效率失灵

应用现有的公平性方法来增强计算机视觉中的公平性，会导致对所有组的分类器性能的降低，但本文通过扩展分类的偏差 - 方差分解来理论上解释了这一现象，并提出了一种自适应增强策略以改善这一问题。

Mar, 2022

极小化帕累托公平性：一个多目标视角

本研究将群体公平性形式化为一个多目标优化问题，并提出一种公平性标准和优化算法，在深度神经网络上进行测试并展示如何减少最坏情况下的分类错误。

Nov, 2020

公正和校准

本论文探讨了在不同人群中最小化误差差异和维护校准概率估计之间的紧张关系，并表明校准只与单一误差约束兼容。

Sep, 2017