Mar, 2022

多样、筛选的临床图像集上皮肤科 AI 性能的差异

PDF
TL;DR本文提出了困扰全球 30 亿人的皮肤科医疗问题，探讨了如何在多样化皮肤色调和非常见病例的图像中应用人工智能技术，并发现当前的皮肤科 AI 算法存在严重的算法偏差，导致对较暗的肤色和非常见疾病的正确率远低于轻皮肤色调和常见疾病，并进一步探讨了训练皮肤科 AI 模型所使用的基于视觉的人工标签的缺陷与局限性。
dermatological careartificial intelligencediverse skin tonesuncommon diseasesalgorithm bias
发现论文，激发创造
  • 通过调整临床环境中皮肤病状况分布的差异来缩小人工智能泛化差距

    近期，人工智能算法在从临床照片中分类皮肤病方面取得了巨大进展。然而，我们对这些算法在现实环境下的鲁棒性了解甚少，而很多因素可能导致其普适性的丧失。通过理解和克服这些限制，我们可以开发出可以帮助在各种临床环境下诊断皮肤病的具有普适性的人工智能。在这项回顾性研究中，我们证明皮肤病分布的差异是人工智能算法在对来自先前未知来源的数据进行评估时产生错误的主要原因，与人口统计或图像捕捉模式无关。我们展示了一系列步骤来弥合这种普适性差距，需要越来越多关于新数据源的信息，从病症分布到以在训练期间较少接触到的数据为重点的训练数据。我们的研究结果还表明，与仅冻结嵌入模型的分类层进行微调相比，端到端微调的性能相当。根据所掌握的信息和资源，我们的方法可以为人工智能算法在新环境中的应用提供指导。

    Feb, 2024

  • 人工智能在临床黑素瘤诊断中的应用：一项前瞻性多中心研究的洞见

    通过与皮肤科医生在一个具有多个不同医院和摄像机配置、罕见黑素瘤亚型和特殊解剖部位的异质测试集上进行比较，我们评估了 “全数据扩展”（ADAE）算法在黑素瘤检测中的诊断准确性，并提高了算法的泛化能力。与皮肤科医生相比，AI 在异质数据集上表现出更高的平衡准确度和敏感度，但牺牲了特异性。因此，AI 在诊断复杂情况时可能有潜力支持皮肤科医生。

    Jan, 2024

  • DDI-CoCo：一份用于理解机器辅助皮肤病检测中色彩对比效果的数据集

    通过研究肤色对皮肤疾病检测性能的影响以及肤色差异与病变区域之间的色差对恶性检测的作用，我们提出了一种量化色差分数的方法并应用于多种皮肤疾病数据集。观察到高和低色差差异组之间的性能差距，这一差异在各种图像分类模型中一致存在，从而验证了我们的假设。此外，我们还研究了肤色和色差效应之间的相互作用，并提出色差可能是肤色性能偏差的另一个原因。我们的工作为改善皮肤疾病检测提供了一个补充角度。

    Jan, 2024

  • 皮肤病诊断的 AI 模型改进：克服关键挑战提升皮肤病变诊断能力

    通过图像分析开发深度学习模型诊断皮肤病变的激增值得注意，然而它们在临床黑脸挑战方面存在限制：限定的诊断输出数量、对罕见皮肤病变缺乏实际世界测试、无法检测越界图像以及过度依赖显微镜图像。为了解决这些问题，我们提出了一种全能的 HOT 模型（Hierarchical-Out of Distribution-Clinical Triage），对于临床图像，我们的模型生成三个输出：层次预测、越界图像警报以及在临床图像不足以进行诊断时对显微镜图像的推荐。当进行推荐时，它将同时整合临床和显微镜图像以进行最终诊断。针对代表性的皮肤病变数据集进行的大量实验证明了我们框架内每个组件的有效性和协同作用。我们多功能的模型为病变诊断提供有价值的决策支持，并为医学 AI 应用设定了一个有前景的先例。

    Nov, 2023

  • FairDisCo: 利用去相关对比学习实现更公平的皮肤科人工智能

    本文介绍了一种基于深度学习的公平皮肤病诊断框架 FairDisCo，通过对比学习和删除敏感属性等方法，有效解决了现有模型对较暗皮肤图像的低准确度问题。在两个新的皮肤数据集 Fitzpatrick17k 和 Diverse Dermatology Images 上的评估表明，FairDisCo 在公平性和性能方面的表现均优于其他三种公平性方法。

    Aug, 2022

  • 使用 Fitzpatrick 17k 数据集评估用于皮肤科临床图像训练的深度神经网络

    本研究关注如何在不同皮肤颜色的情况下，训练深度神经网络模型对临床皮肤病例进行分类，发现由 Fitzpatrick 皮肤类型标签进行数据注释所训练的深度神经网络模型对相似肤色的图像分类的准确度更高，并通过对比人工标记的 Fitzpatrick 皮肤类型标签和算法判定的肤色类型来进一步评价该深度神经网络模型。

    Apr, 2021

  • 公平医学影像 AI 在实际应用中的局限性

    人工智能在医学影像学中逼近人类水平的表现，但其是否在不同人群中造成不公平的预测是一个关键问题。本研究对医学影像学中人工智能使用人口统计学编码的程度进行了深入调查，发现在新的测试环境中，较少编码人口统计属性的模型往往表现出更好的公平性。我们的研究为医学影像学模型在超出初始训练环境中保持性能和公平性提供了最佳实践。

    Dec, 2023

  • EdgeMixup: 改进皮肤病分类和分割的公平性

    该篇论文通过使用 EdgeMixup 数据预处理算法实现了对深度学习模型在诊断皮肤病方面存在的模型偏差进行纠正，并对 Lyme，Tinea Corporis 和 Herpes Zoster 等病变诊断模型的性能进行了比较和分析，其中 EdgeMixup 在减少光之间和暗之间皮肤样本分类准确率差距方面显示出显著的表现优势。

    Feb, 2022

  • 评估基于深度神经网络模型对黑色皮肤病变的普适性

    黑色素瘤是皮肤癌症中最严重的一种，深度神经网络在临床护理和皮肤癌症诊断方面表现出巨大潜力，但现有研究主要依赖白人肤色的数据集，忽视了多样人群肤色的诊断结果。本研究评估了有监督和自监督模型在黑人手掌、脚底和指甲等黑人肌肤部位的皮损图像中的性能，并且利用 Fitzpatrick 皮肤色表确保对黑人肌肤的性能。结果显示这些模型的普适性差，表现良好的是对白人肌肤的皮损，缺乏多样化数据集的开发是不可接受的，深度神经网络在改善诊断方面有着巨大潜力，特别是对于接触有限的人群，但包括黑人皮损是必要的，以确保这些人群能够获得包容性技术的好处。

    Sep, 2023

  • (去) 构建皮肤病变数据集上的偏差

    本文针对现有的皮肤病例资料集中的偏见问题，提出一系列实验，发现机器学习模型在没有临床有意义信息的情况下可以正确分类皮肤病变图像，这强烈暗示了伪相关性引导模型。通过本次实验，揭示了模型在小型数据集中训练和评估的局限性，为未来的模型指导提供了参考。

    Apr, 2019