Sep, 2023

基于乳腺 DCE-MRI 衍生放射学特征的随机森林模型中的种族偏见调查

PDF
TL;DR用基于放射学特征的随机森林模型训练的数据显示，人工智能模型在使用不平衡的受保护属性数据进行训练时可能存在偏见，这对预测肿瘤分子亚型及肿瘤的种族产生有影响，导致模型在训练所属种族的测试数据上表现优秀。
发现论文，激发创造
  • 深度学习模型选择对心脏磁共振分割中性别和种族偏见影响的调查

    研究使用人工智能在医学影像中进行自动化常规任务的过程中，模型选择对主体性别和种族的数据不平衡导致的算法偏见有显著影响，在心脏磁共振图像分割中，我们评估了三种基于卷积神经网络的模型和一种视觉变换器模型，发现其中三种模型存在显著性别偏见，而所有模型都存在种族偏见，然而偏见的严重程度和性质因模型选择而异，凸显了在医学影像任务的公平 AI 分割模型训练中模型选择的重要性。

    Aug, 2023

  • 阅读种族：人工智能识别医学图像中的患者种族身份

    该研究通过私人和公共数据集评估使用深度学习模型识别医学影像中的种族，并确定模型是否具有推广性以及其他影响影像解释的人口特征，该研究的发现突出了模型使用个人报告的种族可能导致误分类的风险，存在潜在的风险需要进一步研究以解决。

    Jul, 2021

  • 公平医学影像 AI 在实际应用中的局限性

    人工智能在医学影像学中逼近人类水平的表现，但其是否在不同人群中造成不公平的预测是一个关键问题。本研究对医学影像学中人工智能使用人口统计学编码的程度进行了深入调查，发现在新的测试环境中，较少编码人口统计属性的模型往往表现出更好的公平性。我们的研究为医学影像学模型在超出初始训练环境中保持性能和公平性提供了最佳实践。

    Dec, 2023

  • 深度学习基于分割的心脏 MR 图像分析中由于数据不平衡导致的偏差调查

    该研究讨论了使用神经网络建立心脏数据的图像分割模型时，数据库不平衡导致的种族偏见，提出了三种解决方案，并发现 protected group models 的使用最有效。

    Jun, 2021

  • 面向医学影像人工智能的客观系统偏见评估

    通过一种新的分析框架，我们展示了如何系统性、客观地研究医学图像中的偏见对人工智能模型的影响，并评估偏见缓解策略在性能差异方面的有效性，从而支持开发健壮、负责任的临床人工智能。

    Nov, 2023

  • 基于放射组学的多模态自注意力网络用于预测乳腺 MRI 的病理完全缓解

    利用动态对比增强磁共振成像 (DCE MRI) 和表观弥散系数 (ADC) 图，本研究提出了一种模型来预测乳腺癌患者的病理完全缓解 (pCR)，利用深度学习和放射组学特征提取，相较于其他基准方法，我们的模型在预测 pCR 方面表现出优越性能。

    Jun, 2024

  • 人工智能模型乳腺 X 线筛查的性能差距 -- 迈向公平和可解释的模型

    通过分析筛选乳腺 X 线检查中失败的人群，使用深度学习模型识别正常和异常组织贴片，并评估人口子组的分类偏差，得出哪些影像特征是深度学习模型性能较差的原因。

    May, 2023

  • 深度伪造检测 AI 模型公正性的探讨

    研究发现最近深度学习模型容易出现以种族和性别等保护类别为基础的歧视。通过使用平衡的脸部数据集，探究三种常见的深度伪造检测器在保护子群体上的性能差异，发现预测性能在种族之间存在很大的差异，该研究还发现一些方法可能会导致伪造影响保护子群体，并造成检测器出现系统性别种族歧视。

    May, 2021

  • 胸部 X 光基础模型中的偏倚风险

    该研究分析了一个公开可访问的胸部 X 光基础模型，发现模型存在性别和种族等保护特征的嵌入，这可能导致临床决策的性能退化和不公平性，因此，建议对基础模型进行充分的偏见和子组织性能分析。

    Sep, 2022

  • 深度胸透分类器中的公平差距

    在医学影像方面，机器学习系统已经受到了广泛的关注。本文检查了最先进的深度学习分类器在从 X 光图像中产生诊断标签方面的性能偏差程度，发现在所有数据集，所有临床任务和所有子群体中都存在 TPR 差异。

    Feb, 2020