研究使用人工智能在医学影像中进行自动化常规任务的过程中，模型选择对主体性别和种族的数据不平衡导致的算法偏见有显著影响，在心脏磁共振图像分割中，我们评估了三种基于卷积神经网络的模型和一种视觉变换器模型，发现其中三种模型存在显著性别偏见，而所有模型都存在种族偏见，然而偏见的严重程度和性质因模型选择而异，凸显了在医学影像任务的公平 AI 分割模型训练中模型选择的重要性。

Aug, 2023

本研究使用卷积神经网络进行深度学习，尝试从两个医疗系统的大型超声心动图数据集中预测患者的年龄、种族和性别，并评估影响因素的变化。结果表明，深度学习模型可以较准确地预测年龄和性别，但未能可靠地预测种族。该研究进一步说明了医疗人工智能中存在的偏见和不公平问题。

Jul, 2022

人工智能在医学影像学中逼近人类水平的表现，但其是否在不同人群中造成不公平的预测是一个关键问题。本研究对医学影像学中人工智能使用人口统计学编码的程度进行了深入调查，发现在新的测试环境中，较少编码人口统计属性的模型往往表现出更好的公平性。我们的研究为医学影像学模型在超出初始训练环境中保持性能和公平性提供了最佳实践。

Dec, 2023

研究发现机器学习（ML）模型可以从患者病历中识别患者的种族信息，即使这些信息被删除，而人类专家则不能准确预测患者的种族信息。此外，研究还展示了在这些种族信息被删除的病历上训练的 ML 模型可能在临床治疗决策中继续保持现有的偏见。

May, 2022

用基于放射学特征的随机森林模型训练的数据显示，人工智能模型在使用不平衡的受保护属性数据进行训练时可能存在偏见，这对预测肿瘤分子亚型及肿瘤的种族产生有影响，导致模型在训练所属种族的测试数据上表现优秀。

Sep, 2023

人工智能在医学影像应用中取得了专家级性能。然而，研究发现目前的视觉语言基础模型在胸部 X 射线诊断中普遍存在算法公平性问题，导致偏见对待历史上被边缘化的群体，并延迟特定人群的重要医疗护理，严重加剧现有的护理差异，对公平医疗保障带来挑战。

Feb, 2024

本文研究表明深度学习模型能够精确提取来自患者胸部 X 光片的生物信息（例如种族、性别和年龄）。此外，我们还发现深度学习模型在识别方面也非常准确，即可以区分属于同一患者和属于不同患者的 CXRs。这些发现暗示了医学成像社区在公共 CXR 数据库大量增加的情况下应考虑的潜在隐私问题。

Apr, 2023

通过一种新的分析框架，我们展示了如何系统性、客观地研究医学图像中的偏见对人工智能模型的影响，并评估偏见缓解策略在性能差异方面的有效性，从而支持开发健壮、负责任的临床人工智能。

Nov, 2023

研究发现最近深度学习模型容易出现以种族和性别等保护类别为基础的歧视。通过使用平衡的脸部数据集，探究三种常见的深度伪造检测器在保护子群体上的性能差异，发现预测性能在种族之间存在很大的差异，该研究还发现一些方法可能会导致伪造影响保护子群体，并造成检测器出现系统性别种族歧视。

May, 2021

该研究通过对人群亚组之间的疾病分类器性能分析，发现低诊断率造成的表现差异引起了关注，进一步强调了在训练数据中嵌入的人类偏见可能会放大现有的健康差异，并探讨了评估模型公正性的一些困难。

Jan, 2022