May, 2024

领域专家与人工智能协作的解释性模型引导系统

PDF
TL;DR在高风险领域（如医疗保健）中，为了有效实现人工智能（AI）系统与领域专家之间的合作，我们引入了一种解释模型引导系统，允许领域专家利用其领域知识来引导预测模型。通过结合基于数据和模型的不同类型解释和手动、自动数据配置方法，该系统提供了一个解释仪表盘，用于引导预测模型。通过三项广泛的用户研究，我们对以医疗保健为重点场景的模型引导系统进行了评估，研究结果强调了在模型引导过程中涉及领域专家的重要性，从而最终实现了人工智能与人类的改进合作。
artificial intelligenceexplanatory model steeringdomain expertsprediction modelshealthcare
发现论文，激发创造
  • 通过学习有说服力的解释优化人工智能与人类的合作

    提出了一种协作系统，其中人类最终做出决策，同时给予模型以最佳机会进行解释并与其辩论，从而解决了机器学习模型在复杂决策中出现难以检测故障模式且能够无监督采取行动的挑战。通过使用协作方法，我们可以确保安全性，提高性能，并解决透明度和问责制方面的担忧，从而实现有效的决策。

    Nov, 2023

  • 构建医学领域可解释的 AI 系统需要什么？

    本篇论文介绍了医学领域中解释性人工智能的研究，强调让人们能够透明地理解和信任 AI/ML 技术的重要性，主要关注于图像、* 组学数据和文本三个方面。

    Dec, 2017

  • 利用解释桥接人工智能和人类

    该研究论文提出了解释性机器学习方法来提高人类决策水平和人工智能协助决策效能之间的差距。

    Mar, 2020

  • EXMOS：通过多方面解释和数据配置来引导解释模型

    该研究探讨了解释在互动式机器学习系统中的作用，以帮助领域专家检测和解决潜在的数据问题，从而优化模型的效果；结果发现全局模型中心的解释不足以指导用户在数据配置过程中，而数据中心的解释可以提高对系统变化的理解，两种解释类型的混合体效果最佳。

    Feb, 2024

  • 跨学科专长推动公正可解释人工智能

    人工智能对于健康和医疗领域产生了显著影响，但在面对受到结构性压迫的人群中仍存在偏见和性能问题。本文提出了可解释人工智能（XAI）的框架，通过跨学科专家组进行评估，旨在改进模型解释、减少偏见，并为未来研究指明方向。

    May, 2024

  • 评估 AI 模型与医疗保健专业人员之间的沟通差距：可解释性、实用性和信任的 AI 驱动临床决策

    本文提供了一个实用的评估框架，用于可解释机器学习模型对于临床决策支持的贡献。研究揭示了 ML 解释模型的更加细致的作用，以及将其实用地嵌入临床背景的方法。 该研究发现，尽管医疗保健专业人员普遍对解释持有积极态度，但对于一定比例的参与者来说，存在负面影响，如确认偏差、过度依赖模型和增加与模型的交互的努力。此外，标准的解释模型显示出支持对模型限制进行关键理解的能力有限。但是，我们发现了具有新的显著积极影响的效果，重新定位了临床背景下解释的作用：包括减少自动化偏差、解决模糊的临床案例（医疗保健专业人员对其决策不确定的情况）并支持获取新领域知识的经验不足的医疗保健专业人员。

    Apr, 2022

  • 机器学习模型的多样化解释：基于数据驱动和领域驱动视角

    我们的目标是通过从一组同样好的模型中找到符合物理定律并满足利益相关者需求的预期解释的准确模型，进而促进解释能力强的人工智能（XAI）融入科学领域。

    Feb, 2024

  • 以解释为基础的决策：关于可解释人工智能在辅助决策中的角色的人类中心评估

    最近的实证研究调查了可解释人工智能对人工智能决策的影响，识别了挑战并提出未来的研究方向。

    Dec, 2023

  • 构建有效的人工智能团队：建立能够补充多种专业能力的机器学习模型

    通过联合训练分类器和分配系统的方式来补充多个人类专家的能力，实现了对于人类专家难以预测的情况进行准确预测，并将任务分配给最合适的小组成员，该方法在多个实验中均表现出优越的性能。

    Jun, 2022

  • 评估流行的可解释人工智能在临床预测模型中的应用：能否信赖？

    本研究旨在评估两种流行的可解释人工智能方法在医疗保健背景下解释预测模型的精确度，重点考虑是否产生与应用任务相一致的域适当表示，如何影响临床工作流程以及是否一致性，结果表明目前的技术还有改进的空间。

    Jun, 2023