在多个数据集偏差源存在时，调查 AI 算法的低诊断率

MMJan, 2022

在多个数据集偏差源存在时，调查 AI 算法的低诊断率

Investigating underdiagnosis of AI algorithms in the presence of multiple sources of dataset bias

Melanie Bernhardt, Charles Jones, Ben Glocker

TL;DR该研究通过对人群亚组之间的疾病分类器性能分析，发现低诊断率造成的表现差异引起了关注，进一步强调了在训练数据中嵌入的人类偏见可能会放大现有的健康差异，并探讨了评估模型公正性的一些困难。

Abstract

deep learning models have shown great potential for image-based diagnosis assisting clinical decision making. At the same time, an increasing number of reports raise concerns about the potential risk that machine

deep learning image-based diagnosis machine learning bias performance disparities model fairness

发现论文，激发创造

面向医学影像人工智能的客观系统偏见评估

通过一种新的分析框架，我们展示了如何系统性、客观地研究医学图像中的偏见对人工智能模型的影响，并评估偏见缓解策略在性能差异方面的有效性，从而支持开发健壮、负责任的临床人工智能。

Nov, 2023

探究医学图像分析中的标定偏差问题

本研究探讨了医疗影像分析中的人工智能系统的公平性问题，特别是围绕判定偏见和校准偏见的研究，并展示了通常使用的多种校准指标对样本量存在系统性偏差的情况，如果未考虑到这一点，可能会导致错误的公平性分析。

May, 2023

机器学习中的公平性与医疗保健中的公平性相遇

本研究提出了一种基于软件工程原理的人工智能框架，用于在保证医疗保健公平的同时识别和缓解数据和模型中的偏见和歧视，通过案例研究表明数据中的系统性偏见会导致模型预测中的偏差增大，并提出了机器学习方法来预防这种偏见。未来的研究目标是在实际的临床环境中测试和验证所提出的 ML 框架，以评估其在促进健康公平方面的影响。

May, 2023

应对生物医学中人工智能公平性和偏见的最新方法调查

人工智能系统在临床实践中有潜力革新，包括提高诊断准确性和手术决策，并降低成本和人力。然而，需要认识到这些系统可能会延续社会不公平或表现出以种族或性别为基础的偏见。为了准确可靠地应用人工智能模型于临床环境中，理解和解决潜在的偏见至关重要。通过调查生物医学自然语言处理或计算机视觉领域的最新出版物，我们对生物医学领域中应用的偏见处理方法进行了概述，并讨论了每种方法的优势和弱点。最后，我们还回顾了从一般领域中可能应用于生物医学领域以解决偏见和提高公平性的其他潜在方法。

Feb, 2024

检测医疗 AI 模型中的算法偏见

通过使用 CART 算法，本研究提出了一种创新的框架，用于检测医疗人工智能决策支持系统中的算法偏见。通过一系列合成数据实验和格拉迪纪念医院的电子病历实验，我们验证了该方法的准确性和实用性，进一步证明了它在临床环境中作为确保公平和公正的关键工具。

Dec, 2023

公平医学影像 AI 在实际应用中的局限性

人工智能在医学影像学中逼近人类水平的表现，但其是否在不同人群中造成不公平的预测是一个关键问题。本研究对医学影像学中人工智能使用人口统计学编码的程度进行了深入调查，发现在新的测试环境中，较少编码人口统计属性的模型往往表现出更好的公平性。我们的研究为医学影像学模型在超出初始训练环境中保持性能和公平性提供了最佳实践。

Dec, 2023

利用模拟来识别人工智能中的偏见

通过高保真计算机模拟和贝叶斯参数搜索，诊断机器学习模型中的偏倚问题，特别是面部识别商业 API 中的人口统计学偏见。

Sep, 2018

医疗保健人工智能中的算法公正性

这篇综述论文概述了高科技医疗领域中人工智能系统的算法公正性问题，阐述了当前临床工作流程中算法偏见（如图像采集，基因变异，内观者标记变异性等）导致的不公平医疗差距并探讨了联邦学习、分离和模型解释等新兴技术在 AI-SaMD 发展中的作用。

Oct, 2021

机器学习中的偏差与公正调查

调查表明，人工智能领域中存在各种偏见和不公，因此机器学习研究人员定义了公平性的分类，以解决现有 AI 系统中的偏见问题。此外，调查还考察了在 AI 的不同领域和子领域中，现有技术的问题及其应对措施，以期鼓励研究人员在其各自领域中研究此问题。

Aug, 2019

现实世界深度学习应用中的模型选择差异影响

本文研究算法公平性中的偏见数据和人类偏好在模型选择中的作用，并通过真实医学影像数据的深度学习模型实证了模型比较指标的选择，特别是那些不考虑变异性，可能会对模型选择结果造成显着的偏差。

Apr, 2021