May, 2024

通过人工智能降低医学课程内容对少数族裔人口的偏见，实现更公正的健康结果

HTML
PDF
TL;DR介绍了一种名为BRICC的新型计划，利用机器学习系统地识别和标记具有潜在偏见的文本，以加速医学偏见信息的清理过程，并提供了用于训练模型的标准数据集和不同的训练策略。
发现论文，激发创造
  • 通过人工智能实现公平：医疗信息中的偏见减少

    本文提出了一个以医学、社会学和反种族主义为灵感的公平人工智能框架，定义了一个新词bisinformation，鼓励研究人员研究它并使用AI研究、发现和减轻对社会中的少数群体造成的有偏见、有害的或虚假健康信息，进而改善患者的结果和福祉。

    Sep, 2021

  • 揭示偏见和不公平：使用电子健康记录的医疗人工智能中偏见检测和缓解的系统综述

    通过系统回顾性研究，本文总结了使用电子健康记录的人工智能应用存在的偏见问题，并讨论了现有的偏见处理方法。

    Oct, 2023

  • 揭示和量化大型语言模型在医学报告生成中的种族偏见

    大型语言模型在医疗专业人员中具有潜力，但在训练过程中可能意外地继承偏见，可能会影响其在医学应用中的实用性。通过定性和定量分析，我们发现这些模型倾向于为白人群体投射更高的费用和较长的住院时间，并在具有更高生存率的具有挑战性的医疗场景中表现出乐观的态度。这些偏差在生成患者背景信息、将特定疾病与某种种族关联以及治疗建议的偏差等方面都有体现。我们的发现强调了未来研究在解决和减轻语言模型的偏见问题方面的关键需求，特别是关注关键的医疗应用，以确保公平和准确的结果对所有患者来说。

    Jan, 2024

  • 应对医疗语言模型中的认知偏差

    这项研究开发了BiasMedQA作为一种新的基准测试方法，评估大型语言模型在医学任务中受认知偏差影响的程度，并发现GPT-4对偏差具有较强的韧性，而Llama 2 70B-chat和PMC Llama 13B则受偏差影响较大，这凸显了在医学语言模型开发中需致力于偏差缓解，以实现在医疗保健领域更安全、可靠的应用。

    Feb, 2024

  • 应对生物医学中人工智能公平性和偏见的最新方法调查

    人工智能系统在临床实践中有潜力革新，包括提高诊断准确性和手术决策，并降低成本和人力。然而，需要认识到这些系统可能会延续社会不公平或表现出以种族或性别为基础的偏见。为了准确可靠地应用人工智能模型于临床环境中，理解和解决潜在的偏见至关重要。通过调查生物医学自然语言处理或计算机视觉领域的最新出版物，我们对生物医学领域中应用的偏见处理方法进行了概述，并讨论了每种方法的优势和弱点。最后，我们还回顾了从一般领域中可能应用于生物医学领域以解决偏见和提高公平性的其他潜在方法。

    Feb, 2024

  • 一个揭示大型语言模型中健康公平伤害和偏见的工具箱

    用人工评估框架和数据集设计方法，对大型语言模型中的偏见进行评估，以实现促进公平可及的医疗保健的共同目标。

    Mar, 2024

  • 多样性医学问答：使用大型语言模型评估医疗诊断中的人口统计学偏差

    本研究解决了大型语言模型在医疗诊断中可能存在的人口统计学偏差问题。我们提出了一种新颖的基准DiversityMedQA，通过对医学考试问题进行扰动，评估不同患者群体中模型回答的差异性。研究发现，模型在不同人口统计条件下的表现存在显著差异，为评估和减少医疗诊断中的人口偏差提供了资源。

    Sep, 2024

  • 朝着更公平的健康推荐：通过词义消歧找到信息丰富且无偏的样本

    本研究关注医疗数据中的偏见检测，以应对由偏见数据训练模型导致的有害预测。作者提出使用词义消歧模型来提升数据集质量，通过去除不相关句子，从而提高健康相关应用的公正性，发现细调后的BERT模型在各项评估指标上表现良好。此研究有望改善患者护理，并缩小健康结果差距。

    Sep, 2024

  • 检测偏见与提高大型语言模型在医疗中的诊断准确性

    此研究解决了大型语言模型在医疗领域中存在的偏见和不准确性问题。通过引入BiasMD和DiseaseMatcher两个数据集，并开发出EthiClinician模型，该模型在伦理推理和临床判断方面超越了GPT-4。研究的成果能够提高AI在医疗中的安全性与可靠性，改善患者的诊断结果。

    Oct, 2024

  • 如何诊断和治疗大型语言模型在临床决策中的偏见

    本研究针对大型语言模型（LLMs）在临床决策中的偏见问题，尤其是性别和种族偏见，进行评估与缓解。我们引入了一个创新的反事实患者变异（CPV）数据集，建立了一种偏见评估框架，研究发现缓解性别偏见可能会引入种族偏见，强调了评估MCQ回答和解释过程的重要性。

    Oct, 2024