本论文研究了嵌入方法在编码社会边缘群体时的偏见问题，以及这种偏见可能导致的临床任务性能下降。通过使用MIMIC-III医院数据集中的医学记录对深度嵌入模型(BERT)进行预训练并使用两种方法量化潜在不公正性，作者发现BERT表征训练出的分类器在性别、语言、族裔和保险等方面表现出明显的性能差异，以及通过对抗去偏差的不足。最后提出了这些问题的最佳实践。

Mar, 2020

本文提出了一个以医学、社会学和反种族主义为灵感的公平人工智能框架，定义了一个新词bisinformation，鼓励研究人员研究它并使用AI研究、发现和减轻对社会中的少数群体造成的有偏见、有害的或虚假健康信息，进而改善患者的结果和福祉。

Sep, 2021

利用大型语言模型和领域特定的SciBERT对健康差异进行研究，发现它们在提供医疗服务、改善健康沟通和减少健康差距方面具有潜力，但在数据多样性、隐私问题和医疗服务提供者与技术专家之间的合作等方面存在挑战。

Oct, 2023

大型语言模型在医疗专业人员中具有潜力，但在训练过程中可能意外地继承偏见，可能会影响其在医学应用中的实用性。通过定性和定量分析，我们发现这些模型倾向于为白人群体投射更高的费用和较长的住院时间，并在具有更高生存率的具有挑战性的医疗场景中表现出乐观的态度。这些偏差在生成患者背景信息、将特定疾病与某种种族关联以及治疗建议的偏差等方面都有体现。我们的发现强调了未来研究在解决和减轻语言模型的偏见问题方面的关键需求，特别是关注关键的医疗应用，以确保公平和准确的结果对所有患者来说。

Jan, 2024

这项研究开发了BiasMedQA作为一种新的基准测试方法，评估大型语言模型在医学任务中受认知偏差影响的程度，并发现GPT-4对偏差具有较强的韧性，而Llama 2 70B-chat和PMC Llama 13B则受偏差影响较大，这凸显了在医学语言模型开发中需致力于偏差缓解，以实现在医疗保健领域更安全、可靠的应用。

Feb, 2024

人工智能系统在临床实践中有潜力革新，包括提高诊断准确性和手术决策，并降低成本和人力。然而，需要认识到这些系统可能会延续社会不公平或表现出以种族或性别为基础的偏见。为了准确可靠地应用人工智能模型于临床环境中，理解和解决潜在的偏见至关重要。通过调查生物医学自然语言处理或计算机视觉领域的最新出版物，我们对生物医学领域中应用的偏见处理方法进行了概述，并讨论了每种方法的优势和弱点。最后，我们还回顾了从一般领域中可能应用于生物医学领域以解决偏见和提高公平性的其他潜在方法。

Feb, 2024

用人工评估框架和数据集设计方法，对大型语言模型中的偏见进行评估，以实现促进公平可及的医疗保健的共同目标。

Mar, 2024

介绍了一种名为BRICC的新型计划，利用机器学习系统地识别和标记具有潜在偏见的文本，以加速医学偏见信息的清理过程，并提供了用于训练模型的标准数据集和不同的训练策略。

May, 2024

本研究探讨了大型语言模型在医疗应用中存在的显著不平等现象，尤其是在特定种族、性别和社会弱势群体中的使用差异。论文提出并评估了一种新颖的框架EquityGuard，旨在检测和缓解大型语言模型在医疗应用中的偏见，从而改善医疗结果并促进不同人群之间的公平性。

Oct, 2024

此研究解决了大型语言模型在医疗领域中存在的偏见和不准确性问题。通过引入BiasMD和DiseaseMatcher两个数据集，并开发出EthiClinician模型，该模型在伦理推理和临床判断方面超越了GPT-4。研究的成果能够提高AI在医疗中的安全性与可靠性，改善患者的诊断结果。

Oct, 2024