近期人工智能的进展使其在初级医疗服务中得到广泛应用，解决了医疗保健领域的需求供应失衡问题。Vision Transformers（ViT）已成为最先进的计算机视觉模型，受益于自注意力机制。然而，与传统的机器学习方法相比，深度学习模型更复杂，常被视为黑匣子，这可能导致人们对其运作方式的不确定性。可解释的人工智能（XAI）是指解释和解读机器学习模型内部运作及其决策的方法，这对医疗领域的决策过程尤为重要。本综述总结了最近 ViT 的进展和解释性方法，以了解 ViT 的决策过程，实现医疗诊断应用的透明性。

Sep, 2023

本文探讨了 Explainable AI 在医疗领域应用的可靠性问题，提出了对于像电子病历这样结构化数据的场景，特征归因方法仍能够发挥有意义且有用的作用。同时，文章对于通过语义匹配来评估特征重要性的方法提供了一个简单的流程。

Jan, 2023

本文使用可解释人工智能（XAI）方法分析 COVID 患者死亡率的社会经济差异，建立了一个基于匿名的奥斯汀地区医院数据集的 XGBoost 预测模型，应用了两种 XAI 方法（Shapley 可加性解释和局部可解释模型无关解释）比较特征重要性的全局与局部解释，发现特别关注医疗保险、年龄和性别等特征对死亡预测影响较大。本研究表明了使用 XAI 方法进行特征归因交叉验证的重要性。

Feb, 2023

本研究旨在评估两种流行的可解释人工智能方法在医疗保健背景下解释预测模型的精确度，重点考虑是否产生与应用任务相一致的域适当表示，如何影响临床工作流程以及是否一致性，结果表明目前的技术还有改进的空间。

Jun, 2023

该研究通过解释 AI 推荐来支持临床医生识别 ML 模型训练中的失误，并提出了一种基于临床背景潜在空间、全局解释和基于潜在空间相似性的本地解释的方法来支持医生鉴定基于表格数据的 ML 模型的失误，在早产儿并发症的风险评估中取得了成功应用，并提供临床实用的支持建议。

Dec, 2022

通过结合医学人工智能和可解释人工智能技术，提出了一种自定义的可解释人工智能框架，应用于人工智能医疗物联网领域，以提高医疗系统的效果，并具备透明和可理解的决策能力。将该框架应用于脑肿瘤检测用例中，得出了准确透明的诊断结果，并且评估结果表明了其出色的性能，实现了高精确度、召回率和 F1 分数，训练准确率达到 99%，验证准确率达到 98%。这种结合高级可解释人工智能技术和基于集成的深度学习方法的框架能够实现精确可靠的脑肿瘤诊断作为医学物联网应用的一种。

Mar, 2024

利用结构化表格和时间序列生理数据实现了创伤性脑损伤 (TBI) 的短期和长期预测模型，使用六种不同的解释技术分析了局部和全局的预测模型，并对每种方法的优缺点进行了比较，发现 SHAP 是最稳定的，且保真度最高，但理解度低。

Aug, 2022

本文介绍了在医学影像诊断中应用深度学习的机会与挑战，重点讲述了可解释人工智能（XAI）在医学影像中的应用，并对解释方法、数据集和评估指标进行了综述和比较，最后探讨了深度学习在医学影像领域的未来研究方向。

May, 2022

本研究旨在分析 XAI 在医学诊断研究中应用的最新研究，对多种不同疾病（如癌症和 COVID-19）的机器学习结果进行解释，以实现想要的评估。

May, 2023

本文系统地评估了透明度和可解释性在医疗保健领域中的重要性和相关的机器学习模型。通过六种不同的方法探讨了 XAI 的各个方面和挑战，并探明了其在解决医疗保健领域中存在的问题方面所起到的重要作用。

Apr, 2023