Jun, 2023

HiTZ@Antidote：面向数字医疗的基于论证的可解释人工智能

PDF
TL;DR本文介绍了解释 AI 预测需要考虑的诸多因素，并阐述了 ANTIDOTE 项目利用深度学习和论证交叉学科知识支持解释 AI 的方法，为医疗领域的高质量解释提供了一种创新的视角。
explainable aimachine learningdeep learningargumentationclinical cases
发现论文，激发创造
  • 构建医学领域可解释的 AI 系统需要什么？

    本篇论文介绍了医学领域中解释性人工智能的研究，强调让人们能够透明地理解和信任 AI/ML 技术的重要性，主要关注于图像、* 组学数据和文本三个方面。

    Dec, 2017

  • 通过学习有说服力的解释优化人工智能与人类的合作

    提出了一种协作系统，其中人类最终做出决策，同时给予模型以最佳机会进行解释并与其辩论，从而解决了机器学习模型在复杂决策中出现难以检测故障模式且能够无监督采取行动的挑战。通过使用协作方法，我们可以确保安全性，提高性能，并解决透明度和问责制方面的担忧，从而实现有效的决策。

    Nov, 2023

  • 可解释性在构建值得信赖的医疗人工智能中的作用：术语、设计选择和评估策略的综合调查

    本文回顾了近期文献，提出了可解释人工智能系统的设计指南以及可解释人工智能领域的规范化贡献。该文章提出了一个框架，以指导选择可解释人工智能方法的类别，进而解释重要属性的相对重要性。同时也发现，尽管定量评价指标对于客观标准化评估很重要，但对于某些属性（如 “清晰度”）和解释类型（如 “基于实例的方法”）仍然缺乏。最终的结论是，可解释建模可以为可信的人工智能做出贡献，但还需要在实践中证明可解释性的好处，并可能需要采取补充措施，例如报告数据质量，进行广泛（外部）验证和监管等措施。

    Jul, 2020

  • 评估 AI 模型与医疗保健专业人员之间的沟通差距：可解释性、实用性和信任的 AI 驱动临床决策

    本文提供了一个实用的评估框架，用于可解释机器学习模型对于临床决策支持的贡献。研究揭示了 ML 解释模型的更加细致的作用，以及将其实用地嵌入临床背景的方法。 该研究发现，尽管医疗保健专业人员普遍对解释持有积极态度，但对于一定比例的参与者来说，存在负面影响，如确认偏差、过度依赖模型和增加与模型的交互的努力。此外，标准的解释模型显示出支持对模型限制进行关键理解的能力有限。但是，我们发现了具有新的显著积极影响的效果，重新定位了临床背景下解释的作用：包括减少自动化偏差、解决模糊的临床案例（医疗保健专业人员对其决策不确定的情况）并支持获取新领域知识的经验不足的医疗保健专业人员。

    Apr, 2022

  • 医疗保健中的可解释人工智能为何必要

    本文讨论了医疗人工智能（AI）领域中，可解释 AI 的可靠性问题，并提出了解释 AI 是人机交互及防止失控的主要工具的观点。

    Jun, 2022

  • 利用解释桥接人工智能和人类

    该研究论文提出了解释性机器学习方法来提高人类决策水平和人工智能协助决策效能之间的差距。

    Mar, 2020

  • 医疗人工智能的解释必要性

    AI 医疗应用何时需要解释以及解释的详细程度的数学模型与分类体系。

    May, 2024

  • CheXplain：让医生探索和理解基于数据驱动的 AI 医学影像分析

    该研究拟定了 CheXplain 系统，以帮助医生了解和探索基于人工智能的胸透分析，并提出了设计可解释的医学人工智能系统的建议。

    Jan, 2020

  • 解释本体学：面向用户中心的人工智能解释模型

    本文介绍了一个解释本体模型以及如何使用该模型支持医疗保健领域用户对解释的需求，并帮助系统设计人员在系统设计和实时操作中选择 AI 系统应提供的解释类型。

    Oct, 2020

  • 可解释人工智能（XAI）综述：面向医疗 XAI

    这篇论文概述了解释机器学习算法决策的不同方法，并将它们应用到医学研究中，以提高医生对这些算法的信任度。

    Jul, 2019