Nov, 2018

可解释人工智能系统设计和评估的多学科调查和框架

PDF
TL;DR本文旨在分享跨学科 XP 机器学习设计和评估方法的知识和经验，并提出了 XP 智能系统设计目标和评估方法的分类以支持 XP 研究的多样性设计目标和评估方法。我们为不同 XP 用户组的设计目标和其评估方法之间的映射提供了一个分类，以及一系列的设计指南和与之相对应的评估方法，从而关闭多学科 XP 团队的迭代设计和评估循环。
interpretable machine learningexplainable intelligent systemsdesign goalsevaluation methodsxai research
发现论文，激发创造
  • 可解释人工智能分析和设计的多组件框架

    这篇论文讨论了符合科学历史的可解释人工智能 (XAI) 的框架问题，其原因追溯至现代机器学习（尤其是深度和强化学习）和对创造值得信赖的 AI 系统的关注，它的五个级别框架是 XAI 的关键组成部分。

    May, 2020

  • 可解释人工智能（XAI）综述：面向医疗 XAI

    这篇论文概述了解释机器学习算法决策的不同方法，并将它们应用到医学研究中，以提高医生对这些算法的信任度。

    Jul, 2019

  • 面向解释性人工智能的全面人本评估框架

    通过在解释性人工智能（XAI）中引入用户中心评估框架，我们希望综合评估方法，总结解释属性，建立相互关系，并分类度量这些属性，以期为 XAI 评估的人本标准化做出贡献。

    Jul, 2023

  • 人机交互中，可解释人工智能界面的设计与评估：系统调查

    该论文通过对 53 篇出版物的系统调查，介绍了可解释人工智能（XAI）和可解释界面（EI）研究的最新趋势，旨在提高 XAI 系统的可用性、实用性和用户体验设计方面的效果，并为 EI 设计与开发指明了有前途的方向。

    Mar, 2024

  • 关于调和可用性和实用性的可解释人工智能方法

    本论文以自动驾驶汽车为研究对象，研究了四种常见的可解释人工智能方法，即决策树、文本、程序和图示。研究表明，参与者倾向于使用语言解释，但通过决策树解释更能客观地理解汽车的决策过程，并且结果显示，计算机科学经验和观察汽车成功或失败的情况可以影响解释的感知和有用性，因此本研究提出，设计 XAI 系统必须考虑用户的特定需求和情境因素。

    Jan, 2023

  • 可解释人工智能：系统综述

    这篇论文从四个主要聚类方向：综述文章、理论和概念、方法及其评估，总结了可解释人工智能领域的最新技术水平并提出了未来研究方向。

    May, 2020

  • 可解释人工智能 (XAI) 中的机遇与挑战：一份调查

    本文介绍了深度学习中可解释人工智能技术（XAI），提出了技术分类法并介绍了方法学、范畴和应用层次等主要原则，旨在建立可信、可解释和自说明的深度学习模型。此外，通过八种不同的可解释人工智能算法对图像数据进行了评估，讨论了这种方法的局限性，并提出了未来改进的潜在方向。

    Jun, 2020

  • 可解释人工智能综述以及解释工程学科的提出

    本文探讨可解释人工智能（XAI）领域，讨论解释的含义和现有方法并归纳最受欢迎的分类方法，探讨在金融、自动驾驶、医疗保健和制造业等四个主要领域中使用这些方法的应用，并介绍包括一种系统性方法来设计可解释性在内的 AI 系统的新兴领域 “解释工程”。

    May, 2023

  • 可解释人工智能方法：一项调查

    该研究演示了可解释人工智能的多种方法，并与信用违约预测等任务进行了比较，提出了定量解释性的有意义见解，为开发负责任或以人为中心的 AI 系统提供方向和未来研究方向，有助于在高风险应用中采用 AI。

    Jan, 2021

  • 从个人经验到量化评估方法：评估可解释 AI 的系统综述

    文章讨论了机器学习模型解释性和可解释性的多方面问题，并提出了 12 个概念性属性，如紧凑性和正确性来全面评估解释的质量。文章还提供了定量 XAI 评估方法的广泛概述，以及提供了创新的库和方法帮助研究人员和从业者彻底验证、基准测试和比较新的和现有的 XAI 方法。

    Jan, 2022