医疗保健中基于机器学习的预测模型的可解释性

Feb, 2020

医疗保健中基于机器学习的预测模型的可解释性

Interpretability of machine learning based prediction models in healthcare

Gregor Stiglic, Primoz Kocbek, Nino Fijacko, Marinka Zitnik, Katrien Verbert...

TL;DR该研究论文概述了理解机器学习模型的需求，解释了分类理解方法并提供了在不同医疗保健领域实际应用机器学习可解释性的例子，强调开发算法解决高风险医疗问题的重要性。

Abstract

There is a need of ensuring machine learning models that are interpretable. Higher interpretability of the model means easier comprehension and explanation of future predictions for end-users. Further, interpretable machine learning models allow healthcare experts to make reasonable and data-driven decisions to provide personalized decisions that can ultimat

interpretable machine learning models personalized interpretation global interpretability model-specific techniques model-agnostic approaches

发现论文，激发创造

选择医疗机器学习模型的可解释性技术

在医疗保健领域，追求使用可解释的算法来协助医疗专业人员在多种决策场景中。针对预测性、描述性和相关性（PDR）框架，将可解释机器学习定义为一个能够明确且简单地确定数据中所含或模型所学关系对其功能和模型分类至关重要的机器学习模型，并根据后续操作和基于模型进行分类，用于训练后获取可解释性或内置于算法设计中。我们概述了八种可供此类目的使用的后续操作和基于模型的算法。

Jun, 2024

可解释机器学习技术

本文综述了提高可解释机器学习模型的技术，并讨论了未来研究的关键问题，如设计用户友好的解释和开发全面的评估指标，以进一步推动可解释机器学习的发展。

Jul, 2018

机器学习的模型无关可解释性

机器学习中的可解释性问题已经成为一个重要的关注点，本文提出使用模型无关的方法解释机器学习预测，这种方法可以提供选择模型、解释和表示的灵活性，同时改善了调试、比较和用户接口等问题，同时回顾了最近引入的模型无关的解释方法 LIME 及其面临的主要挑战。

Jun, 2016

自然语言处理的可解释性评估及性能和可解释性之间的算法分析

探讨了在医疗保健领域中机器学习的应用。通过在 MIMIC-III 临床笔记中预测死亡率的任务中，我们展示了各种可完全解释的方法和模型不可知后续属性的可视化技术，同时提供了评估解释质量的通用方法。

Jul, 2021

使用机器学习设计可解释决策支持系统是什么？

本文提出增强学习可用于学习不同用户可解释的模型，由此建立他们对机器学习模型的信任。通过与医生交互，基于神经网络模型，设计了一个基于强化学习的临床决策支持系统，结果表明，机器学习专家无法准确预测哪个系统输出将最大化临床医生对底层神经网络模型的信心，这些结果对将来机器学习可解释性研究以及机器学习在医学中的应用都具有广泛的意义。

Nov, 2018

机器学习中的可解释性：与解释性、预测性能和模型的相互作用

最近，解释性已经引起了机器学习领域的关注，因为在关键决策或故障排除时至关重要。本文阐述了解释性的关系，即与机器学习中的重要概念（如可解释性，预测性能和机器学习模型）的关系，以澄清对解释性存在的一些误解。

Nov, 2023

机器学习在食品加工、农业和卫生应用中的可解释性与可访问性

本文回顾了在全球问题背景下，针对农业、食品加工和医疗健康等领域的机器学习可解释性和可访问性方面所做的工作，涵盖了科学和数学解释，统计解释和部分语义解释等多个方面

Nov, 2022

可解释的临床风险预测人工智能：概念、方法和形式调查

AI 在医疗应用中的最新进展显示出在诊断和疾病预测方面超越人类表现的巨大潜力。然而，随着 AI 模型的复杂性日益增加，人们对其不透明性、潜在偏见和解释性的需求也越来越担忧。为了确保 AI 系统的信任和可靠性，特别是在临床风险预测模型中，解释性变得至关重要。这篇综述中，我们讨论了这些概念之间的关系，因为它们经常一起或可互换使用。该综述还讨论了最近在发展用于临床风险预测的可解释模型方面的进展，强调了定量和临床评估和验证在临床实践中的多个常见模态上的重要性。它强调了外部验证和多种解释性方法的结合以增强信任和公平性的必要性。采用严格的测试，例如使用具有已知生成因素的合成数据集，可以进一步提高解释性方法的可靠性。开放访问和代码共享资源对于透明性和可重现性至关重要，以促进可解释性研究的增长和可信度。尽管存在挑战，但将解释性纳入临床风险预测的端到端方法，包括从临床医生到开发人员的利益相关者，对于取得成功至关重要。

Aug, 2023

可解释性与解释性：机器学习动物园小巡回

本次综述研究了设计可解释性机器学习模型的问题，分别阐述了可解释性和说明性的概念，并以深度学习模型为例，展示了这两个不同研究方向的最新进展。

Dec, 2020

可解释的机器学习：定义、方法和应用

该研究呈现了机器学习的可解释性与 PDR 框架，探讨了现有解释方法的分类与优劣评估，提供了实际案例并讨论了未来研究方向。

Jan, 2019