Jun, 2024

选择医疗机器学习模型的可解释性技术

PDF
TL;DR在医疗保健领域，追求使用可解释的算法来协助医疗专业人员在多种决策场景中。针对预测性、描述性和相关性（PDR）框架，将可解释机器学习定义为一个能够明确且简单地确定数据中所含或模型所学关系对其功能和模型分类至关重要的机器学习模型，并根据后续操作和基于模型进行分类，用于训练后获取可解释性或内置于算法设计中。我们概述了八种可供此类目的使用的后续操作和基于模型的算法。
发现论文，激发创造
  • 可解释的机器学习：定义、方法和应用

    该研究呈现了机器学习的可解释性与 PDR 框架，探讨了现有解释方法的分类与优劣评估，提供了实际案例并讨论了未来研究方向。

    Jan, 2019

  • 医疗保健中基于机器学习的预测模型的可解释性

    该研究论文概述了理解机器学习模型的需求，解释了分类理解方法并提供了在不同医疗保健领域实际应用机器学习可解释性的例子，强调开发算法解决高风险医疗问题的重要性。

    Feb, 2020

  • 设计可解释的机器学习系统以增强可信的医疗人工智能：对过去十年的系统性回顾和提出的稳健框架

    AI 医疗技术对健康医疗产生重大影响，本文回顾了在医疗领域中可解释机器学习（IML）和可解释人工智能（XAI）的过程和挑战，着重关注质量控制，并针对实验结果阐明了健康医疗中稳健解释性的重要性，为创建可沟通的医生 - 人工智能工具提供了见解。

    Nov, 2023

  • 自然语言处理的可解释性评估及性能和可解释性之间的算法分析

    探讨了在医疗保健领域中机器学习的应用。通过在 MIMIC-III 临床笔记中预测死亡率的任务中，我们展示了各种可完全解释的方法和模型不可知后续属性的可视化技术，同时提供了评估解释质量的通用方法。

    Jul, 2021

  • 可解释机器学习技术

    本文综述了提高可解释机器学习模型的技术，并讨论了未来研究的关键问题，如设计用户友好的解释和开发全面的评估指标，以进一步推动可解释机器学习的发展。

    Jul, 2018

  • 使用机器学习设计可解释决策支持系统是什么？

    本文提出增强学习可用于学习不同用户可解释的模型，由此建立他们对机器学习模型的信任。通过与医生交互，基于神经网络模型，设计了一个基于强化学习的临床决策支持系统，结果表明，机器学习专家无法准确预测哪个系统输出将最大化临床医生对底层神经网络模型的信心，这些结果对将来机器学习可解释性研究以及机器学习在医学中的应用都具有广泛的意义。

    Nov, 2018

  • 个性化可信决策集：提高临床决策支持系统的可解释性

    本研究提出了一种新型的临床决策支持系统，结合了一组规则和机器学习算法，提供了全局和局部的可解释性，并使用机器学习算法预测每个规则在特定患者的正确性可能性，以更好地提高预测性能，并提高个性化解释能力，这些元素的结合可以帮助医生更好地评估患者的情况，提高医生的决策能力。

    Jul, 2021

  • 可解释模型处理失衡类别和异构数据中的系统性缺失

    本文介绍了一种基于原型的可解释模型，在应对特定医学数据集的问题时，不仅能够具备可解释性，还能保持高性能。通过对一个合成和两个真实医学数据集的详细分析，这些模型得以证明在处理医学数据方面的有效性，可成为医学诊断提供支持。

    Jun, 2022

  • 可解释的机器学习：基本原则和 10 大挑战

    本文旨在提供可解释机器学习的基本原则，解决常见误解，并识别了十个技术挑战领域，包括稀疏逻辑模型、神经网络中的监督和非监督可分离性、增强学习的解释性等。此次调查适用于对可解释机器学习感兴趣的统计学家和计算机科学家。

    Mar, 2021

  • 机器学习中的可解释性：与解释性、预测性能和模型的相互作用

    最近，解释性已经引起了机器学习领域的关注，因为在关键决策或故障排除时至关重要。本文阐述了解释性的关系，即与机器学习中的重要概念（如可解释性，预测性能和机器学习模型）的关系，以澄清对解释性存在的一些误解。

    Nov, 2023