本研究探讨了在 COVID-19 疫情期间以及疫情过去后，使用人工智能模型预测死亡率的性能、可解释性和鲁棒性。作为首个这样的研究，我们发现贝叶斯神经网络（BNNs）和智能训练技术使我们的模型能够在数据变动明显的情况下保持性能。我们的结果强调了开发能够在具有挑战性条件下与临床医生预测相匹配或超越的鲁棒人工智能模型的重要性。我们对模型可解释性的探索表明，随机数模型生成了更多样化和个性化的解释，从而突显出在实际临床环境中提供详细和个性化见解的人工智能模型的需求。此外，我们强调了量化人工智能模型的不确定性的重要性，这使得临床医生能够基于可靠的预测做出更加明智的决策。我们的研究倡导将实施科学优先纳入医疗人工智能研究，并确保人工智能解决方案在实际临床环境中具有实用性、益处和可持续性。通过解决医疗环境中的独特挑战和复杂性，研究人员能够开发有效改进临床实践和患者预后的人工智能模型。

Nov, 2023

通过使用 CART 算法，本研究提出了一种创新的框架，用于检测医疗人工智能决策支持系统中的算法偏见。通过一系列合成数据实验和格拉迪纪念医院的电子病历实验，我们验证了该方法的准确性和实用性，进一步证明了它在临床环境中作为确保公平和公正的关键工具。

Dec, 2023

该研究通过解释 AI 推荐来支持临床医生识别 ML 模型训练中的失误，并提出了一种基于临床背景潜在空间、全局解释和基于潜在空间相似性的本地解释的方法来支持医生鉴定基于表格数据的 ML 模型的失误，在早产儿并发症的风险评估中取得了成功应用，并提供临床实用的支持建议。

Dec, 2022

这篇论文探讨了机器学习算法在高影响临床决策系统中应用的公平性、可解释性和透明度，提出了一种基于倾向评分和决策树的算法指南，帮助临床医生识别模型的可预测缺陷，同时指导算法开发人员改进数据源和结构以解决这些缺陷。

Nov, 2020

发展和部署可解释模型对提高其可信度和采用率至关重要，本研究旨在开发和实施一个同时解决公平性和可解释性问题的框架，通过优化性能建立模型，采用处理中的方法减轻模型对种族和性别等敏感属性的偏见，进而通过探索特征重要性的变化来探索和可视化模型变化的解释，结果表明，我们的公平增强模型保持高的敏感性，同时提高了公平性，并提供了对临床决策和资源配置有帮助的公平改善洞察。

Apr, 2024

本文使用可解释人工智能（XAI）方法分析 COVID 患者死亡率的社会经济差异，建立了一个基于匿名的奥斯汀地区医院数据集的 XGBoost 预测模型，应用了两种 XAI 方法（Shapley 可加性解释和局部可解释模型无关解释）比较特征重要性的全局与局部解释，发现特别关注医疗保险、年龄和性别等特征对死亡预测影响较大。本研究表明了使用 XAI 方法进行特征归因交叉验证的重要性。

Feb, 2023

本文通过在金融、医疗保健、大学招生和美国司法系统等四个领域的实际数据中审计了不同保护子组的解释质量，发现不同子组的近似质量显着不同，而解释深度学习模型的近似质量差异存在着公平性挑战，需要进一步解决。

May, 2022

本研究提出了一种基于专家知识的临床概念或中间特征作为解释单元的自我解释深度学习框架，并在公开的电子健康记录数据集上进行了实验。实验结果表明，该模型的解释性组件不会影响预测性能，并且模型生成的解释可以为医生提供了解病人死亡原因的洞见。

Oct, 2021

AI 在医疗应用中的最新进展显示出在诊断和疾病预测方面超越人类表现的巨大潜力。然而，随着 AI 模型的复杂性日益增加，人们对其不透明性、潜在偏见和解释性的需求也越来越担忧。为了确保 AI 系统的信任和可靠性，特别是在临床风险预测模型中，解释性变得至关重要。这篇综述中，我们讨论了这些概念之间的关系，因为它们经常一起或可互换使用。该综述还讨论了最近在发展用于临床风险预测的可解释模型方面的进展，强调了定量和临床评估和验证在临床实践中的多个常见模态上的重要性。它强调了外部验证和多种解释性方法的结合以增强信任和公平性的必要性。采用严格的测试，例如使用具有已知生成因素的合成数据集，可以进一步提高解释性方法的可靠性。开放访问和代码共享资源对于透明性和可重现性至关重要，以促进可解释性研究的增长和可信度。尽管存在挑战，但将解释性纳入临床风险预测的端到端方法，包括从临床医生到开发人员的利益相关者，对于取得成功至关重要。

Aug, 2023

该研究旨在探讨 AI 系统的设计要求，以支持临床专家在早期诊断败血症方面做出更好的决策。通过对现有 AI 预测模块的基于医疗记录的电子健康档案系统的临床专家的形态学研究，该研究构建了 SepsisLab，通过 AI 算法预测败血症发展并可视化预测的不确定性，并提供减少不确定性的可行建议，从而展示了 SepsisLab 在人机协作方面的潜力，对未来的 AI 辅助败血症诊断和其他高风险医学决策具有重要意义。

Sep, 2023