提供上下文解释可以提高医疗专家对人工智能系统的信任度。我们使用多个 LLMs 构建了一个端到端的人工智能流程，包括数据集建立，风险预测模型，后续模型解释和可视化仪表盘，以识别 2 型糖尿病并发症慢性肾脏疾病的驱动因素及风险，证实了上下文解释在临床实践中的可行性和价值。

Feb, 2023

本文介绍了一种可视化指导的以数据中心的解释为主的仪表板，可辅助护理专家们监测糖尿病发病的风险并推荐减少风险的措施。研究发现，与其他解释方法相比，数据中心的解释方法是护理专家们所偏好的，因此表明向护理专家们提供可视化指导的数据中心的解释方法对从糖尿病患者健康记录中获得可操作性的见解是极其重要的。

Feb, 2023

AI 在医疗应用中的最新进展显示出在诊断和疾病预测方面超越人类表现的巨大潜力。然而，随着 AI 模型的复杂性日益增加，人们对其不透明性、潜在偏见和解释性的需求也越来越担忧。为了确保 AI 系统的信任和可靠性，特别是在临床风险预测模型中，解释性变得至关重要。这篇综述中，我们讨论了这些概念之间的关系，因为它们经常一起或可互换使用。该综述还讨论了最近在发展用于临床风险预测的可解释模型方面的进展，强调了定量和临床评估和验证在临床实践中的多个常见模态上的重要性。它强调了外部验证和多种解释性方法的结合以增强信任和公平性的必要性。采用严格的测试，例如使用具有已知生成因素的合成数据集，可以进一步提高解释性方法的可靠性。开放访问和代码共享资源对于透明性和可重现性至关重要，以促进可解释性研究的增长和可信度。尽管存在挑战，但将解释性纳入临床风险预测的端到端方法，包括从临床医生到开发人员的利益相关者，对于取得成功至关重要。

Aug, 2023

本综述分析了 40 项使用人工智能模型（主要是机器学习模型）预测 2 型糖尿病（T2DM）风险的研究，结果显示单模态和多模态模型表现良好，但是外部验证和新型生物标志的应用不足。

May, 2023

本文通过对两个主要急诊科室医疗工作者的访谈，阐述机器学习模型在临床实践中如何建立医生的信任以及可解释性所发挥的关键因素，最终提出了评估临床可解释方法的具体指标。

May, 2019

开发了一个可解释的机器学习系统，用于预测有心血管风险的患者中的慢性肾脏病，在全球解释性框架、生物医学相关性和安全性评估等方面具有突出优势。

Apr, 2024

本文提供了一个实用的评估框架，用于可解释机器学习模型对于临床决策支持的贡献。研究揭示了 ML 解释模型的更加细致的作用，以及将其实用地嵌入临床背景的方法。 该研究发现，尽管医疗保健专业人员普遍对解释持有积极态度，但对于一定比例的参与者来说，存在负面影响，如确认偏差、过度依赖模型和增加与模型的交互的努力。此外，标准的解释模型显示出支持对模型限制进行关键理解的能力有限。但是，我们发现了具有新的显著积极影响的效果，重新定位了临床背景下解释的作用：包括减少自动化偏差、解决模糊的临床案例（医疗保健专业人员对其决策不确定的情况）并支持获取新领域知识的经验不足的医疗保健专业人员。

Apr, 2022

本研究提出了一种基于专家知识的临床概念或中间特征作为解释单元的自我解释深度学习框架，并在公开的电子健康记录数据集上进行了实验。实验结果表明，该模型的解释性组件不会影响预测性能，并且模型生成的解释可以为医生提供了解病人死亡原因的洞见。

Oct, 2021

该研究展示了机器学习系统在通过风险评分预测患者不良事件方面的巨大潜力，但未来介入干预政策会对风险评分产生影响，所以在此提出了一种联合模型来更加明确地传达有关未来干预的假设。通过将典型风险评分与未来干预概率评分相结合，可以提供更可解释的临床预测。

Jul, 2022

使用集成学习和可解释的人工智能来视觉化慢性肾脏疾病的主要特征、特征得分和价值，提高对该疾病早期预测和检测的准确性，为临床医生开处方推荐个体患者的生活方式改变以减缓疾病进展提供帮助。

Jun, 2024