子群分离在群体公平医学图像分类中的作用

Jul, 2023

子群分离在群体公平医学图像分类中的作用

The Role of Subgroup Separability in Group-Fair Medical Image Classification

Charles Jones, Mélanie Roschewitz, Ben Glocker

TL;DR我们研究深度分类器中的性能差异。我们发现分类器将个体分为子群的能力在医学成像模态和保护特性之间存在显著差异；关键是，我们展示了这一特性对算法偏见具有预测作用。通过理论分析和广泛的经验评估，我们发现了子群分离性、子群差异和在训练数据存在系统偏差（如低诊断率）时性能下降之间的关系。我们的发现为理解模型如何变得有偏提供了新的视角，为公平的医学成像人工智能的发展提供了重要的见解。

Abstract

We investigate performance disparities in deep classifiers. We find that the ability of classifiers to separate individuals into subgroups varies substantially across medical imaging modalities and protected char

performance disparities deep classifiers subgroup separability algorithmic bias fair medical imaging ai

发现论文，激发创造

医学图像分割中的无监督偏差发现

通过数值实验在合成和真实场景中展示了我们的方法能够在没有真实标签的情况下成功预测公平性问题，这在该领域中是一种新颖且有价值的工具。

Sep, 2023

超越你所见：使用种族健康不平等社会决定因素对多标签胸部 X 射线分类进行子群交叉公平性的实证分析

通过使用深度学习模型，本研究在疾病诊断方面取得了重要进展，在使用胸部 X 射线上具有很大潜力。然而，这些模型中存在的固有偏见可能导致预测准确性在不同保护组之间存在差异。为了实现准确的诊断结果并确保在交叉组之间公平性，我们提出了一个框架，用于在高维胸部 X 射线多标签分类任务中实现公平性。该框架不仅考虑传统的受保护属性，还考虑了社会决定因素中的复杂交互作用，使得公平性的评估更加细致。我们提出了一种简单而强大的方法，通过使用跨组平衡的数据集来重新训练预训练模型的最后分类层。此外，我们还考虑了公平性约束，并在多标签设置中集成了类别平衡微调。我们在 MIMIC-CXR 数据集上评估了我们的方法，结果表明与基准方法相比，我们的框架在准确性和公平性之间实现了最佳权衡。

Mar, 2024

改进医学影像分析公平性：消除校准偏见，无需固定属性分组

为解决医学图像分析中校准偏差的问题，提出了一种基于聚类 - 焦点法的新方法 Cluster-Focal，无需在训练期间考虑亚组属性，能够管理最差亚组的校准误差，同时保持预测性能，并超越了最近的基线。

Jul, 2023

改善胸部 X 光分类器的公平性

通过对 9 种方法公平指标改进的性能进行基准测试，我们发现，相对于实现群体公平的方法，实现最差群体表现的方法并不能胜任在临床设置中对分类器公平进行改进，这一结果证实了对于在数据生成功能机制中存在歧视的机理的调查在临床环境中仍然具有实用性。

Mar, 2022

分类器中的显著性预测偏差识别

介绍了一种新颖的子集扫描方法，用于检测统计学显著的偏差或区域，以及识别分类器偏差或预测不良的特征子集，该方法使用基于子集扫描和参数引导的方法处理了指数级可能的子集。

Nov, 2016

（可预测的）无监督异常检测中的性能偏差

本研究评估了数据集构成对多个保护变量上的无监督异常检测模型性能造成的影响，并引入了新的子组 - AUROC 度量方法，结果显示数据集构成对 UAD 模型的不公平性性能有显著影响。

Sep, 2023

分类中不同待遇的影响：分割还是不分割？

本文针对机器学习中存在的不公平待遇问题，提出了一种新的分类器算法 —— 分裂分类器。与传统的盲目分类器不同，分裂分类器可以更好地解决性别 / 年龄等敏感属性的问题，并且通过实验验证了该算法的有效性。

Feb, 2020

消除偏见：利用切片发现方法解释医学图像分析性能差距

使用 Slice Discovery Methods (SDMs) 鉴别机器学习模型中的性能差异及其与患者群体之间的相互作用，并提出性别差异导致观察到的分类性能差距的解释。

Jun, 2024

基于结构回归的模型性能评估方法在交叉子群中的应用

通过引入结构回归方法进行细分评估，以演示即使对于非常小的子群体，也可以得出可靠的系统性能估计，进而提供相应的推断策略以构建置信区间，并探索拟合度检验如何揭示交叉群体所经历的公平相关伤害的结构。

Jan, 2024

超声分割任务中模型公平性检查

机器学习和深度学习在医学任务和应用中得到广泛应用，然而，研究人员发现模型在不同敏感属性的子组中表现出偏见。本文通过检测一系列深度学习分割模型在超声波分割任务中的表现来评估模型的不公平性，结果显示即使最先进的深度学习算法也存在不公平行为。这些发现强调了在模型部署到实际场景之前对其进行仔细评估的必要性，以确保道德考量并减轻对患者结果的不利影响的风险。

Dec, 2023