在生物医学领域中，最先进的问答（QA）模型表现出各种社会偏见（如性别或种族），其训练数据中存在类似问题对此进行了解释。然而，迄今为止被忽视的是，在生物医学的关键领域中，由于患者人口统计信息而导致模型输出不合理的变化是存在问题的：这导致了对患者的不公平对待。通过仅选择与种族、性别或性取向无关的生物医学主题的问题，我们提出以下研究问题：（RQ1）当提供无关的人口统计信息时，QA 模型的答案是否会改变？（RQ2）RQ1 的答案在基于知识图谱（KG）和基于文本的 QA 系统之间是否存在差异？我们发现，无关的人口统计信息最多会改变 KG 为基础的系统 15% 的答案和文本为基础的系统 23% 的答案，包括影响准确性的变化。我们得出结论，由于患者人口统计信息而引起的无理答案变化是一个常见现象，这引起了公平性问题，并应该受到更多关注。

Oct, 2023

通过对八种流行的大型语言模型在三个临床病例描述数据集上进行严格评估和分析，我们发现这些模型在受保护群体之间存在各种不同程度的社会偏差，而大小模型并不一定比通用模型更具偏见，经过设计决策的提示方式对社会偏差也有影响，研究呼吁对在临床决策支持应用中使用的大型语言模型进行进一步评估、审查和改进。

Apr, 2024

用人工评估框架和数据集设计方法，对大型语言模型中的偏见进行评估，以实现促进公平可及的医疗保健的共同目标。

Mar, 2024

为了提高语言模型的公正性，本文提出了多项定义并给出了新的测试和度量方式，旨在减少机器学习在文本生成过程中对性别、种族、语言宗教等社会构建的刻板印象所带来的负面影响。实证结果和人工评估表明，该方法能够在文本生成中减少偏见同时保留重要的上下文信息。

Jun, 2021

通过比较研究和建立评估框架，在专业环境中研究语言模型的两种偏见：性别和种族。我们发现，尽管较新的模型相比较老模型来说性别偏见大大减少，但种族偏见仍然存在。

Nov, 2023

大型语言模型在医疗专业人员中具有潜力，但在训练过程中可能意外地继承偏见，可能会影响其在医学应用中的实用性。通过定性和定量分析，我们发现这些模型倾向于为白人群体投射更高的费用和较长的住院时间，并在具有更高生存率的具有挑战性的医疗场景中表现出乐观的态度。这些偏差在生成患者背景信息、将特定疾病与某种种族关联以及治疗建议的偏差等方面都有体现。我们的发现强调了未来研究在解决和减轻语言模型的偏见问题方面的关键需求，特别是关注关键的医疗应用，以确保公平和准确的结果对所有患者来说。

Jan, 2024

在这项研究中，我们引入了一个包含各种预设假设的与健康相关的查询的数据集 UPHILL，通过使用 UPHILL 数据集来评估 InstructGPT、ChatGPT 和 BingChat 模型的事实准确性和一致性，发现尽管这些模型的回复很少与真实健康声明相悖，但它们经常不能纠正错误假设。鉴于这些模型的中等事实准确性和无法持续纠正错误假设的能力，我们对当前 LLMs 在高风险场景中的使用呼吁进行谨慎评估。

Dec, 2023

利用大型语言模型和领域特定的 SciBERT 对健康差异进行研究，发现它们在提供医疗服务、改善健康沟通和减少健康差距方面具有潜力，但在数据多样性、隐私问题和医疗服务提供者与技术专家之间的合作等方面存在挑战。

Oct, 2023

通过探索问题的实用推理，我们研究了询问孕期和婴儿护理问题时进行的一些无法被现有方法检测到的推理，并表明在现有问题回答系统中引入实用推理可以减轻有害信念的传播。

Nov, 2023

神经机器翻译模型在其训练数据分布中往往会延续性别偏见。本文通过详细分析英语到德语的刻板职业翻译以及巴斯克语到西班牙语的非信息上下文翻译，检验了上下文感知模型对减轻此类偏见的作用。研究结果表明，虽然上下文感知模型可以显著增强女性术语的翻译准确性，但依然可能保持或放大性别偏见。这些结果凸显了神经机器翻译中对偏见减轻需要更精细方法的需求。

Jun, 2024