AI 在医疗应用中的最新进展显示出在诊断和疾病预测方面超越人类表现的巨大潜力。然而，随着 AI 模型的复杂性日益增加，人们对其不透明性、潜在偏见和解释性的需求也越来越担忧。为了确保 AI 系统的信任和可靠性，特别是在临床风险预测模型中，解释性变得至关重要。这篇综述中，我们讨论了这些概念之间的关系，因为它们经常一起或可互换使用。该综述还讨论了最近在发展用于临床风险预测的可解释模型方面的进展，强调了定量和临床评估和验证在临床实践中的多个常见模态上的重要性。它强调了外部验证和多种解释性方法的结合以增强信任和公平性的必要性。采用严格的测试，例如使用具有已知生成因素的合成数据集，可以进一步提高解释性方法的可靠性。开放访问和代码共享资源对于透明性和可重现性至关重要，以促进可解释性研究的增长和可信度。尽管存在挑战，但将解释性纳入临床风险预测的端到端方法，包括从临床医生到开发人员的利益相关者，对于取得成功至关重要。

Aug, 2023

IBM Research 提出了一套可解决企业采用 Prescriptive AI 所面临挑战的解决方案，其中包括可扩展的因果推断方法、可解释的决策方法以及通过对话代理来弥合该领域中数据科学家与业务用户之间的沟通鸿沟，该解决方案通过一个名为 PresAIse 的概念验证展示了其潜力，使非机器学习专家能够通过自然语言界面与 Prescriptive AI 模型进行交互，从而为战略决策民主化先进分析。

Feb, 2024

这篇报告对数据驱动方法 - 特别是机器学习和模式识别模型进行了综述和总结，以便于业界从业者和数据科学家更好地理解 “可解释的人工智能” 的领域并应用正确的工具。

Sep, 2020

该研究论文提出了解释性机器学习方法来提高人类决策水平和人工智能协助决策效能之间的差距。

Mar, 2020

该研究通过分析一个能源零售商的 220,185 位客户数据，使用可解释人工智能方法预测交叉销售，并证明 SHAP 方法提供的解释对实际买家有效，进一步阐明了信息系统、可解释人工智能和关系营销的相关研究意义。

Aug, 2022

机器学习和深度学习在金融预测中越来越普遍，但是这些复杂模型缺乏透明度和可解释性，在金融等敏感领域使用具有挑战性。本文探讨了在金融领域中应用可解释性人工智能的好方法，强调数据质量、面向特定人群的方法、数据属性的考虑以及解释的稳定性的重要性。这些实践旨在应对金融行业的独特挑战和要求，并指导有效的可解释性人工智能工具的开发。

Nov, 2023

机器学习模型的不透明性威胁到其可解释性，可解释人工智能（XAI）技术通过提供解释 ML 模型内部决策过程的框架和方法来解决这一挑战，同时维护隐私的难题需要在理解 ML 决策和保护隐私之间找到平衡点。

Jun, 2024

使用人工智能技术，特别是可解释的 AI (QXAI) 框架，通过深度学习模型来预测病人的生理活动并监测生命体征，提供全局和局部解释，为决策者提供可靠依据。(Translation: By utilizing Artificial Intelligence techniques, especially the Explainable AI (QXAI) framework, this study predicts patients' physical activities and monitors vital signs through deep learning models, providing global and local explanations to assist decision-makers.)

Sep, 2023

本文回顾了与深度学习可解释性和控制相关的视觉分析、信息可视化和机器学习观点，讨论了潜在的挑战和未来研究方向。

Apr, 2018

这篇论文讨论了符合科学历史的可解释人工智能 (XAI) 的框架问题，其原因追溯至现代机器学习（尤其是深度和强化学习）和对创造值得信赖的 AI 系统的关注，它的五个级别框架是 XAI 的关键组成部分。

May, 2020