Dec, 2023

公平医学影像 AI 在实际应用中的局限性

PDF
TL;DR人工智能在医学影像学中逼近人类水平的表现，但其是否在不同人群中造成不公平的预测是一个关键问题。本研究对医学影像学中人工智能使用人口统计学编码的程度进行了深入调查，发现在新的测试环境中，较少编码人口统计属性的模型往往表现出更好的公平性。我们的研究为医学影像学模型在超出初始训练环境中保持性能和公平性提供了最佳实践。
artificial intelligencemedical imagingdemographic encodingsfairness discrepanciestest environments
发现论文，激发创造
  • 医学影像中专家级视觉语言基础模型的人口统计偏见

    人工智能在医学影像应用中取得了专家级性能。然而，研究发现目前的视觉语言基础模型在胸部 X 射线诊断中普遍存在算法公平性问题，导致偏见对待历史上被边缘化的群体，并延迟特定人群的重要医疗护理，严重加剧现有的护理差异，对公平医疗保障带来挑战。

    Feb, 2024

  • 探究医学图像分析中的标定偏差问题

    本研究探讨了医疗影像分析中的人工智能系统的公平性问题，特别是围绕判定偏见和校准偏见的研究，并展示了通常使用的多种校准指标对样本量存在系统性偏差的情况，如果未考虑到这一点，可能会导致错误的公平性分析。

    May, 2023

  • 在多个数据集偏差源存在时，调查 AI 算法的低诊断率

    该研究通过对人群亚组之间的疾病分类器性能分析，发现低诊断率造成的表现差异引起了关注，进一步强调了在训练数据中嵌入的人类偏见可能会放大现有的健康差异，并探讨了评估模型公正性的一些困难。

    Jan, 2022

  • 面向医学影像人工智能的客观系统偏见评估

    通过一种新的分析框架，我们展示了如何系统性、客观地研究医学图像中的偏见对人工智能模型的影响，并评估偏见缓解策略在性能差异方面的有效性，从而支持开发健壮、负责任的临床人工智能。

    Nov, 2023

  • 放射学人工智能中的公平性导航：概念、后果和关键考虑

    本文评述了人工智能在放射学中的应用，特别关注了平等和比例性公正等算法的实际使用以及如何使用开源的 Aequitas 工具包进行偏见审计，以确保数据集的公正性和避免 AI 模型中的隐含偏见。

    Jun, 2023

  • 无需人口统计实现皮肤疾病诊断的公平性

    在医学图像诊断中，公平性变得越来越重要。本文提出了一种方法，在测试阶段实现对敏感属性的公平预测，而无需在训练过程中使用此类信息，并通过增强模型特征和规范特征的纠缠关系来提高公平性和准确性。实验结果表明，在两个皮肤病数据集中，该方法能够提高分类的公平性。

    Jan, 2024

  • 医疗保健人工智能中的算法公正性

    这篇综述论文概述了高科技医疗领域中人工智能系统的算法公正性问题，阐述了当前临床工作流程中算法偏见（如图像采集，基因变异，内观者标记变异性等）导致的不公平医疗差距并探讨了联邦学习、分离和模型解释等新兴技术在 AI-SaMD 发展中的作用。

    Oct, 2021

  • 深度学习基于分割的心脏 MR 图像分析中由于数据不平衡导致的偏差调查

    该研究讨论了使用神经网络建立心脏数据的图像分割模型时，数据库不平衡导致的种族偏见，提出了三种解决方案，并发现 protected group models 的使用最有效。

    Jun, 2021

  • 医学影像中人口统计学不变的模型和表征是否公平？

    本研究考虑了医学成像模型的算法公正性问题，并研究了模型对人口统计学属性的潜在编码问题，提出了对各种公正性方法的限制。最终得出结论，医学图像模型可能需要编码人口统计学属性，需要在预测性能方面进行全面的模型公平性评估。

    May, 2023

  • 明目张胆：针对脆弱患者群体的不可检测的对抗性偏见攻击

    人工智能在放射学领域的广泛应用，揭示了深度学习模型对弱势患者群体的临床偏见的风险。本研究表明，有针对性的标签污染攻击可以在深度学习模型中引入有害的低诊断偏见，在不影响整体模型性能的情况下降低对弱势群体的诊断准确性。此外，我们的研究结果表明，性别、年龄以及它们的交叉子群体在模型训练数据中的表示对于无法检测到的对抗性偏见攻击的群体脆弱性有直接相关性。

    Feb, 2024