改进医学影像分析公平性：消除校准偏见，无需固定属性分组

Jul, 2023

改进医学影像分析公平性：消除校准偏见，无需固定属性分组

Mitigating Calibration Bias Without Fixed Attribute Grouping for Improved Fairness in Medical Imaging Analysis

Changjian Shui, Justin Szeto, Raghav Mehta, Douglas Arnold, Tal Arbel

TL;DR为解决医学图像分析中校准偏差的问题，提出了一种基于聚类 - 焦点法的新方法 Cluster-Focal，无需在训练期间考虑亚组属性，能够管理最差亚组的校准误差，同时保持预测性能，并超越了最近的基线。

Abstract

Trustworthy deployment of deep learning medical imaging models into real-world clinical practice requires that they be calibrated. However, models that are well calibrated overall can still be poorly calibrated for a sub-population, potentially resulting in a clinician unwittingly maki

deep learning calibration biases medical image analysis cluster-focal sensitive attributes

发现论文，激发创造

医学图像分割中的无监督偏差发现

通过数值实验在合成和真实场景中展示了我们的方法能够在没有真实标签的情况下成功预测公平性问题，这在该领域中是一种新颖且有价值的工具。

Sep, 2023

通过群体自适应分类器缓解人脸识别偏差

旨在学习公平的面部表征，使用自适应卷积核和注意机制对不同人群的面部特征进行分类，提出了自适应模块来激活区分不同人口属性的脸部区域并减轻识别偏差，提出了新的去偏差损失函数，大量实验证明该方法能够有效减轻面部识别偏差。

Jun, 2020

走向公正和校准的模型

在这项研究中，我们提出了一种同时具备公平性和校准性的模型构建方法，通过基于温度缩放的简单后处理技术来实现，同时对现有的校准损失函数进行修改以进行组内校准，从而在多种场景下实现公平和校准的模型。

Oct, 2023

无需人口统计实现皮肤疾病诊断的公平性

在医学图像诊断中，公平性变得越来越重要。本文提出了一种方法，在测试阶段实现对敏感属性的公平预测，而无需在训练过程中使用此类信息，并通过增强模型特征和规范特征的纠缠关系来提高公平性和准确性。实验结果表明，在两个皮肤病数据集中，该方法能够提高分类的公平性。

Jan, 2024

该模型对所有人都可靠吗？强校准测试

通过改进的测试程序，我们引入了一种新的基于改变点检测的校准测试方法，可以有效评估风险预测模型的准确性和算法的公平性。

Jul, 2023

加入标签多样性缓解人脸分析系统中的偏见

本研究介绍了一种结合人类主观标签和数学定义的客观标注来减轻面部分类器中的偏见的学习方法，并通过集成学习方法进行了实验验证。

Apr, 2022

朝向无需假设的偏见缓解

通过建模特征交互来检测相关属性以减轻偏见影响的无假设框架，大大减轻了机器学习模型中针对特定人群的歧视和不公平预测行为。

Jul, 2023

降低异构设备中联邦学习的群体偏差

我们提出了一个群体公平的联邦学习框架，旨在在保护隐私和没有资源利用开销的情况下，减少群体偏见。我们通过利用平均条件概率来计算由异构训练数据得出的跨领域群体重要性权重，使用修改的乘法权重更新方法来优化表现最差的群体的性能。此外，我们提出了正则化技术来最小化最差和最好表现群体之间的差异，同时通过阈值机制确保在减少偏见和群体表现下降之间取得平衡。我们对人类情绪识别和图像分类基准进行了评估，以评估我们的框架在实际异构环境中的公平决策能力。

Sep, 2023

子群分离在群体公平医学图像分类中的作用

我们研究深度分类器中的性能差异。我们发现分类器将个体分为子群的能力在医学成像模态和保护特性之间存在显著差异；关键是，我们展示了这一特性对算法偏见具有预测作用。通过理论分析和广泛的经验评估，我们发现了子群分离性、子群差异和在训练数据存在系统偏差（如低诊断率）时性能下降之间的关系。我们的发现为理解模型如何变得有偏提供了新的视角，为公平的医学成像人工智能的发展提供了重要的见解。

Jul, 2023

发现和减轻图像分类器中的多个有偏群体

通过分解图像特征为多个组分并生成自然语言描述，使用 DIM 方法来发现和减轻图像分类器中的多个有偏群体，并揭示模型在 Hard ImageNet 上的失误模式，以理解图像分类器中的模型偏差。

Mar, 2024