通过解释性更详细的说明，理解在黑匣子人工智能技术中隐藏的计算细节对于我们日常生活中计算效率高的人工智能技术及其各种应用至关重要。该论文分析了几种解释性人工智能框架和方法，包括 LIME（局部可解释的模型无关解释）和 SHAP（Shapley 附加解释），并使用随机森林分类器作为黑匣子人工智能在公开的糖尿病症状数据集上进行更好的解释和透明度进行糖尿病疾病预测。

Nov, 2023

本研究探讨了可解释的人工智能（XAI）技术在预测自杀风险和识别主要原因方面的有效性。通过数据扩充技术和机器学习模型进行预测，并利用 SHapley 加性解释方法和相关性分析来排名预测变量的重要性。实验结果表明，决策树（DT）、随机森林（RF）和极端梯度提升（XGBoost）模型取得了最佳结果，其中 DT 具有最高的准确率（95.23%）和曲线下面积（0.95）。根据 SHAP 结果，愤怒问题、抑郁和社交孤立是预测自杀风险的主要变量，而拥有良好收入、受人尊敬的职业和大学教育背景的患者具有最低的风险。结果表明，机器学习和 XAI 框架对于自杀风险预测具有有效性，可以帮助精神科医生理解人类复杂行为，并可协助可靠的临床决策。

Mar, 2023

本文研究了在医疗保健领域中应用预测建模以提高保险公司生产力和效率的潜力，通过使用三种基于回归的集成机器学习模型（Extreme Gradient Boosting、梯度提升机和随机森林）对医疗保险费用进行预测，并采用可解释的人工智能方法来发现和解释影响医疗保险费用的关键因素。研究结果表明这些模型在预测上取得了可观的成果，其中 XGBoost 模型表现最佳，但计算资源消耗更高，而 RF 模型则在预测误差较小的同时消耗较少的计算资源。同时比较了两种可解释人工智能方法在识别影响保险费用的关键特征上的结果，发现 ICE 图能更详细地展示变量之间的相互作用，而 SHAP 分析则更具概览性。希望本研究的贡献能够帮助决策者、保险公司和潜在医疗保险购买者在选择适合其需求的政策时作出正确决策。

Nov, 2023

这篇论文探讨解释的可解释人工智能（XAI）方法，特别是 SHapley 加性解释和局部可解释模型无关解释等两种使用广泛的方法，提出一个框架来解释它们的输出，强调它们的优缺点。

May, 2023

提出了一种简单而有用的代理，修改任何 XAI 特征排序方法的结果，以便考虑预测变量之间的依赖关系。该方法是模型不可知的，而且在存在共线性时计算每个预测变量在模型中的影响非常简单。

Apr, 2023

鉴于手术操作的规模庞大和术后死亡率的显著高位，评估和管理手术并发症已成为一个重要的公共卫生问题。为了解决现有人工智能工具在风险监测和诊断方面缺乏适当的可解释性、公平性和可复现性的问题，我们提出了一个解释性人工智能（XAI）框架，旨在回答为什么、为何不、如何、如果以及其他问题，目标是提高人工智能模型的可解释性和透明度。我们融合了各种技术，如局部可解释的模型无关解释（LIME）、SHapley Additive Explanation（SHAP）、反事实解释、模型卡片、交互式特征操作界面以及相似患者的识别来解决这些问题。我们展示了一个遵循这一框架用于预测术后重大并发症的 XAI 界面原型。这个初始实现为我们的 XAI 框架的广阔解释潜力提供了有价值的见解，并代表了朝着其临床应用迈出的初步一步。

Apr, 2024

本研究旨在评估两种流行的可解释人工智能方法在医疗保健背景下解释预测模型的精确度，重点考虑是否产生与应用任务相一致的域适当表示，如何影响临床工作流程以及是否一致性，结果表明目前的技术还有改进的空间。

Jun, 2023

利用结构化表格和时间序列生理数据实现了创伤性脑损伤 (TBI) 的短期和长期预测模型，使用六种不同的解释技术分析了局部和全局的预测模型，并对每种方法的优缺点进行了比较，发现 SHAP 是最稳定的，且保真度最高，但理解度低。

Aug, 2022

该研究通过解释 AI 推荐来支持临床医生识别 ML 模型训练中的失误，并提出了一种基于临床背景潜在空间、全局解释和基于潜在空间相似性的本地解释的方法来支持医生鉴定基于表格数据的 ML 模型的失误，在早产儿并发症的风险评估中取得了成功应用，并提供临床实用的支持建议。

Dec, 2022

本文运用多种机器学习算法对 COVID-19 患者数据库进行分析，以了解和解释患者的社会经济特征与其死亡率的关联性，并分析机器学习模型对 COVID 患者社会经济数据的全局和局部解释。

Feb, 2023