评估临床试验中的数据偏倚
机器学习和数据驱动算法在决策制定领域的广泛应用已逐年增加，但相关负面影响也随之日益严重。负面数据偏差是其中之一，会对特定群体造成有害后果。为解决偏差带来的负面后果，必须首先认识到其存在，并找到一种能够理解和量化的方法。本文的主要贡献是：（1）提出了一个定义和高效量化数据集相对于保护群体偏差水平的通用算法框架；（2）定义了一种新的偏差度量方法。我们的实验结果在九个公开数据集上得到验证，并进行了理论分析，从而为该问题提供了新的见解。基于我们的方法，我们还推导出一种可能对政策制定者有用的偏差缓解算法。
May, 2024
本篇论文探讨了数据偏见对最终用户的影响、偏见的来源以及如何处理数据偏见的问题。提出了‘bias management’的概念，强调应该从识别、测量、索引、面向和调整偏见的角度入手，而不是在所有情况下都要消除数据偏见。
May, 2023
该研究通过对人群亚组之间的疾病分类器性能分析，发现低诊断率造成的表现差异引起了关注，进一步强调了在训练数据中嵌入的人类偏见可能会放大现有的健康差异，并探讨了评估模型公正性的一些困难。
Jan, 2022
人工智能系统在临床实践中有潜力革新，包括提高诊断准确性和手术决策，并降低成本和人力。然而，需要认识到这些系统可能会延续社会不公平或表现出以种族或性别为基础的偏见。为了准确可靠地应用人工智能模型于临床环境中，理解和解决潜在的偏见至关重要。通过调查生物医学自然语言处理或计算机视觉领域的最新出版物，我们对生物医学领域中应用的偏见处理方法进行了概述，并讨论了每种方法的优势和弱点。最后，我们还回顾了从一般领域中可能应用于生物医学领域以解决偏见和提高公平性的其他潜在方法。
Feb, 2024
本研究提出了一种基于软件工程原理的人工智能框架，用于在保证医疗保健公平的同时识别和缓解数据和模型中的偏见和歧视，通过案例研究表明数据中的系统性偏见会导致模型预测中的偏差增大，并提出了机器学习方法来预防这种偏见。未来的研究目标是在实际的临床环境中测试和验证所提出的 ML 框架，以评估其在促进健康公平方面的影响。
May, 2023
本文呈现了通过定量和模拟建模分析使用系统动力学了解人工智能种族偏见和对健康不平等影响的结果和见解，并强调将数据和医疗保健讨论集中于人们及其医疗和科学体验，以及认识算法操作的社会背景的重要性，社区创伤的集体记忆是寻求治疗和体验有效治疗的内生驱动因素，这些因素对不同种族群体的初值条件具有明显的不平等性。
May, 2023
本研究探讨了医疗影像分析中的人工智能系统的公平性问题，特别是围绕判定偏见和校准偏见的研究，并展示了通常使用的多种校准指标对样本量存在系统性偏差的情况，如果未考虑到这一点，可能会导致错误的公平性分析。
May, 2023
通过使用 CART 算法，本研究提出了一种创新的框架，用于检测医疗人工智能决策支持系统中的算法偏见。通过一系列合成数据实验和格拉迪纪念医院的电子病历实验，我们验证了该方法的准确性和实用性，进一步证明了它在临床环境中作为确保公平和公正的关键工具。
Dec, 2023
我们提出了一种数据为中心、模型不可知的方法来评估数据集偏倚，通过研究不同群体在小样本量下学习的便利程度（AEquity）的关系。然后我们应用 AEq 值的系统分析来识别和减轻医疗领域中已知病例的种族偏见。AEq 是一种新颖而广泛适用的度量标准，可以通过诊断和纠正医疗数据集中的偏见来推动公平。
Nov, 2023