该论文提出了一种基于熵的标准及一种新的端到端可微分的方法，用于从概念神经网络中提取逻辑解释，该方法使用一阶逻辑的形式化定义，并考虑了四个案例研究来证明这种熵基准能够从临床数据到计算机视觉中，在安全关键领域中提取简洁的逻辑解释。

Jun, 2021

本研究提出了一种基于专家知识的临床概念或中间特征作为解释单元的自我解释深度学习框架，并在公开的电子健康记录数据集上进行了实验。实验结果表明，该模型的解释性组件不会影响预测性能，并且模型生成的解释可以为医生提供了解病人死亡原因的洞见。

Oct, 2021

本文提出了一种可解释的和可解释的基于神经符号学习的糖尿病性视网膜病变（ExplainDR）分类模型，其中对决策制定应考虑高层符号表示以获得可解释性。特别是，我们介绍了人类可读的符号表示，该表示遵循与眼部健康相关的糖尿病性视网膜病变特征的分类法样式以实现解释性。我们随后将从符号表示获取的人类可读特征包括在疾病预测中。对糖尿病性视网膜病变分类数据集的实验结果表明，与应用于IDRiD数据集的最先进方法相比，我们提出的ExplainDR方法表现出有希望的性能，同时提供解释性和可解释性。

Apr, 2022

本文介绍了在医学影像诊断中应用深度学习的机会与挑战，重点讲述了可解释人工智能（XAI）在医学影像中的应用，并对解释方法、数据集和评估指标进行了综述和比较，最后探讨了深度学习在医学影像领域的未来研究方向。

May, 2022

本文介绍了一种可视化指导的以数据中心的解释为主的仪表板，可辅助护理专家们监测糖尿病发病的风险并推荐减少风险的措施。研究发现，与其他解释方法相比，数据中心的解释方法是护理专家们所偏好的，因此表明向护理专家们提供可视化指导的数据中心的解释方法对从糖尿病患者健康记录中获得可操作性的见解是极其重要的。

Feb, 2023

提出了基于逻辑神经网络（LNN）的神经符号人工智能方法来诊断心理障碍，该方法解决了神经网络模型缺乏可解释性的问题，提供了一种更值得信赖的心理障碍诊断解决方案。

Jun, 2023

AI在医疗应用中的最新进展显示出在诊断和疾病预测方面超越人类表现的巨大潜力。然而，随着AI模型的复杂性日益增加，人们对其不透明性、潜在偏见和解释性的需求也越来越担忧。为了确保AI系统的信任和可靠性，特别是在临床风险预测模型中，解释性变得至关重要。这篇综述中，我们讨论了这些概念之间的关系，因为它们经常一起或可互换使用。该综述还讨论了最近在发展用于临床风险预测的可解释模型方面的进展，强调了定量和临床评估和验证在临床实践中的多个常见模态上的重要性。它强调了外部验证和多种解释性方法的结合以增强信任和公平性的必要性。采用严格的测试，例如使用具有已知生成因素的合成数据集，可以进一步提高解释性方法的可靠性。开放访问和代码共享资源对于透明性和可重现性至关重要，以促进可解释性研究的增长和可信度。尽管存在挑战，但将解释性纳入临床风险预测的端到端方法，包括从临床医生到开发人员的利益相关者，对于取得成功至关重要。

Aug, 2023

通过提出神经网络框架Truth Table rules (TT-rules)，将规则模型的全局和精确可解释性与深度神经网络的高性能相结合，将神经网络转化为基于规则的模型，该模型在医疗应用中表现出与其他可解释方法相当或更高的性能。

Sep, 2023

深度学习在医疗保健研究中通过解决各种自然语言处理（NLP）任务得到了极大的增强。本文对可解释和可解释的医疗NLP中的深度学习进行了彻底的综述。发现注意力机制是最主要的新兴IAI，同时也提出了重要的机会，如利用注意力提升个性化医学的多模态XIAI并将DL与因果推理相结合。

Mar, 2024

在医学成像中，辨识人工智能模型预测背后的理由对于评估其决策的可靠性至关重要。为了填补这一差距，我们提出了一种具备决策推理和特征识别能力的可解释模型，不仅能够检测有影响力的图像模式，还能揭示驱动模型最终预测的决定性特征。通过实施我们的方法，我们能够有效地识别和可视化数据驱动模型利用的类别特定特征，为深度学习模型的决策过程提供洞察，验证了我们的模型在医学预测任务中的效用和潜力，从而提高了人工智能在医疗保健领域的可靠性，并发现了在预后理解有限的疾病中的新知识。

May, 2024