为了推广人工智能模型在高精度领域（如医疗保健）的实际应用，必须使其具有可解释性。本研究通过探索一种基于临床情况、疾病风险预测和算法解释的上下文定制方法，验证了这种方法的重要性。在对 2 型糖尿病（T2DM）中的慢性肾脏病（CKD）风险预测进行了实证分析后，我们获得了初步结果和来自医疗专家的热烈反响。

Jul, 2021

本文介绍了一种可视化指导的以数据中心的解释为主的仪表板，可辅助护理专家们监测糖尿病发病的风险并推荐减少风险的措施。研究发现，与其他解释方法相比，数据中心的解释方法是护理专家们所偏好的，因此表明向护理专家们提供可视化指导的数据中心的解释方法对从糖尿病患者健康记录中获得可操作性的见解是极其重要的。

Feb, 2023

本综述分析了 40 项使用人工智能模型（主要是机器学习模型）预测 2 型糖尿病（T2DM）风险的研究，结果显示单模态和多模态模型表现良好，但是外部验证和新型生物标志的应用不足。

May, 2023

该研究通过解释 AI 推荐来支持临床医生识别 ML 模型训练中的失误，并提出了一种基于临床背景潜在空间、全局解释和基于潜在空间相似性的本地解释的方法来支持医生鉴定基于表格数据的 ML 模型的失误，在早产儿并发症的风险评估中取得了成功应用，并提供临床实用的支持建议。

Dec, 2022

本文提供了一个实用的评估框架，用于可解释机器学习模型对于临床决策支持的贡献。研究揭示了 ML 解释模型的更加细致的作用，以及将其实用地嵌入临床背景的方法。 该研究发现，尽管医疗保健专业人员普遍对解释持有积极态度，但对于一定比例的参与者来说，存在负面影响，如确认偏差、过度依赖模型和增加与模型的交互的努力。此外，标准的解释模型显示出支持对模型限制进行关键理解的能力有限。但是，我们发现了具有新的显著积极影响的效果，重新定位了临床背景下解释的作用：包括减少自动化偏差、解决模糊的临床案例（医疗保健专业人员对其决策不确定的情况）并支持获取新领域知识的经验不足的医疗保健专业人员。

Apr, 2022

AI 在医疗应用中的最新进展显示出在诊断和疾病预测方面超越人类表现的巨大潜力。然而，随着 AI 模型的复杂性日益增加，人们对其不透明性、潜在偏见和解释性的需求也越来越担忧。为了确保 AI 系统的信任和可靠性，特别是在临床风险预测模型中，解释性变得至关重要。这篇综述中，我们讨论了这些概念之间的关系，因为它们经常一起或可互换使用。该综述还讨论了最近在发展用于临床风险预测的可解释模型方面的进展，强调了定量和临床评估和验证在临床实践中的多个常见模态上的重要性。它强调了外部验证和多种解释性方法的结合以增强信任和公平性的必要性。采用严格的测试，例如使用具有已知生成因素的合成数据集，可以进一步提高解释性方法的可靠性。开放访问和代码共享资源对于透明性和可重现性至关重要，以促进可解释性研究的增长和可信度。尽管存在挑战，但将解释性纳入临床风险预测的端到端方法，包括从临床医生到开发人员的利益相关者，对于取得成功至关重要。

Aug, 2023

本文通过对两个主要急诊科室医疗工作者的访谈，阐述机器学习模型在临床实践中如何建立医生的信任以及可解释性所发挥的关键因素，最终提出了评估临床可解释方法的具体指标。

May, 2019

本研究旨在评估两种流行的可解释人工智能方法在医疗保健背景下解释预测模型的精确度，重点考虑是否产生与应用任务相一致的域适当表示，如何影响临床工作流程以及是否一致性，结果表明目前的技术还有改进的空间。

Jun, 2023

利用语言模型（LMs）来代表结构化电子健康记录（EHRs），例如诊断历史，可以在各种风险预测任务中提高性能，同时具有少样本学习、处理未知医学概念和适应各种医学词汇等优势，但在使用这些模型时需要谨慎

Nov, 2023

该研究展示了机器学习系统在通过风险评分预测患者不良事件方面的巨大潜力，但未来介入干预政策会对风险评分产生影响，所以在此提出了一种联合模型来更加明确地传达有关未来干预的假设。通过将典型风险评分与未来干预概率评分相结合，可以提供更可解释的临床预测。

Jul, 2022