May, 2023

探究医学图像分析中的标定偏差问题

PDF
TL;DR本研究探讨了医疗影像分析中的人工智能系统的公平性问题，特别是围绕判定偏见和校准偏见的研究，并展示了通常使用的多种校准指标对样本量存在系统性偏差的情况，如果未考虑到这一点，可能会导致错误的公平性分析。
artificial intelligenceautomated medical image analysisalgorithmic fairnessbiasescalibration metrics
发现论文，激发创造
  • 在多个数据集偏差源存在时，调查 AI 算法的低诊断率

    该研究通过对人群亚组之间的疾病分类器性能分析，发现低诊断率造成的表现差异引起了关注，进一步强调了在训练数据中嵌入的人类偏见可能会放大现有的健康差异，并探讨了评估模型公正性的一些困难。

    Jan, 2022

  • 面向医学影像人工智能的客观系统偏见评估

    通过一种新的分析框架，我们展示了如何系统性、客观地研究医学图像中的偏见对人工智能模型的影响，并评估偏见缓解策略在性能差异方面的有效性，从而支持开发健壮、负责任的临床人工智能。

    Nov, 2023

  • 医疗保健人工智能中的算法公正性

    这篇综述论文概述了高科技医疗领域中人工智能系统的算法公正性问题，阐述了当前临床工作流程中算法偏见（如图像采集，基因变异，内观者标记变异性等）导致的不公平医疗差距并探讨了联邦学习、分离和模型解释等新兴技术在 AI-SaMD 发展中的作用。

    Oct, 2021

  • 医学影像公平性基准测试

    该研究介绍了 MEDFAIR 框架，可以用于医学成像机器学习模型的公平性评估和算法的基准测试，通过实验发现模型选择标准可以对公平性结果产生重要影响，并在不同的应用场景和伦理原则下提供了建议。

    Oct, 2022

  • 检测医疗 AI 模型中的算法偏见

    通过使用 CART 算法，本研究提出了一种创新的框架，用于检测医疗人工智能决策支持系统中的算法偏见。通过一系列合成数据实验和格拉迪纪念医院的电子病历实验，我们验证了该方法的准确性和实用性，进一步证明了它在临床环境中作为确保公平和公正的关键工具。

    Dec, 2023

  • 公正和校准

    本论文探讨了在不同人群中最小化误差差异和维护校准概率估计之间的紧张关系，并表明校准只与单一误差约束兼容。

    Sep, 2017

  • 应对生物医学中人工智能公平性和偏见的最新方法调查

    人工智能系统在临床实践中有潜力革新，包括提高诊断准确性和手术决策，并降低成本和人力。然而，需要认识到这些系统可能会延续社会不公平或表现出以种族或性别为基础的偏见。为了准确可靠地应用人工智能模型于临床环境中，理解和解决潜在的偏见至关重要。通过调查生物医学自然语言处理或计算机视觉领域的最新出版物，我们对生物医学领域中应用的偏见处理方法进行了概述，并讨论了每种方法的优势和弱点。最后，我们还回顾了从一般领域中可能应用于生物医学领域以解决偏见和提高公平性的其他潜在方法。

    Feb, 2024

  • 公平医学影像 AI 在实际应用中的局限性

    人工智能在医学影像学中逼近人类水平的表现，但其是否在不同人群中造成不公平的预测是一个关键问题。本研究对医学影像学中人工智能使用人口统计学编码的程度进行了深入调查，发现在新的测试环境中，较少编码人口统计属性的模型往往表现出更好的公平性。我们的研究为医学影像学模型在超出初始训练环境中保持性能和公平性提供了最佳实践。

    Dec, 2023

  • 机器学习中的公平性与医疗保健中的公平性相遇

    本研究提出了一种基于软件工程原理的人工智能框架，用于在保证医疗保健公平的同时识别和缓解数据和模型中的偏见和歧视，通过案例研究表明数据中的系统性偏见会导致模型预测中的偏差增大，并提出了机器学习方法来预防这种偏见。未来的研究目标是在实际的临床环境中测试和验证所提出的 ML 框架，以评估其在促进健康公平方面的影响。

    May, 2023

  • 临床风险预测公平机器学习的实证表征

    该研究探讨了使用机器学习指导临床决策可能加剧现有的健康差距问题的潜力，并分析了算法公平的适用性、技术限制以及与机器学习在医疗保健中使用相关的社会技术背景。研究结果表明，在对各组之间的预测分布差异进行惩罚的情况下，几乎所有团体内的多项绩效指标都会降低，并且算法公平性方法在消除健康差距方面仍存在许多有待解决的问题。

    Jul, 2020