Jul, 2023

人类中心的可解释人工智能（XAI）的未来不在于事后解释

PDF
TL;DR该论文呼吁从事人类中心的可解释人工智能研究，探究人类对于深度学习系统的理解和信任的关键作用，并提出设计可解释的神经网络体系结构的方案，以实现实时、准确、可操作、易于解释和一致的需求。
explainable artificial intelligencedeep learning systemsxaiinterpretable neural network architectureshuman-centric xai
发现论文，激发创造
  • 以解释为基础的决策：关于可解释人工智能在辅助决策中的角色的人类中心评估

    最近的实证研究调查了可解释人工智能对人工智能决策的影响，识别了挑战并提出未来的研究方向。

    Dec, 2023

  • 可解释人工智能 (XAI) 中的机遇与挑战：一份调查

    本文介绍了深度学习中可解释人工智能技术（XAI），提出了技术分类法并介绍了方法学、范畴和应用层次等主要原则，旨在建立可信、可解释和自说明的深度学习模型。此外，通过八种不同的可解释人工智能算法对图像数据进行了评估，讨论了这种方法的局限性，并提出了未来改进的潜在方向。

    Jun, 2020

  • 可解释人工智能方法：一项调查

    该研究演示了可解释人工智能的多种方法，并与信用违约预测等任务进行了比较，提出了定量解释性的有意义见解，为开发负责任或以人为中心的 AI 系统提供方向和未来研究方向，有助于在高风险应用中采用 AI。

    Jan, 2021

  • 人类中心的可解释人工智能 (XAI)：从算法到用户体验

    本文介绍了可解释 AI 的技术领域以及人们对人机交互和用户体验设计日益重视，在 XAI 的设计、评估、概念和方法论工具方面提供人本方法的作用。本文旨在提供人本的 XAI 设计，并帮助传达和扩展已有的 XAI 工具箱。

    Oct, 2021

  • 人工智能系统中的解释原则

    本文探讨了人类尺度的设计、测试和实现 Explainable Artificial Intelligence 的基本概念，并提出了一种 “自解释指南” 的方法，以帮助开发人员了解如何通过启用自解释来赋能用户。最后，提出了一套经过实证基础、以用户为中心的设计原则，可以指导开发人员创建成功的解释系统。

    Feb, 2021

  • 终端用户真正想要什么？人性化 XAI 技术在移动健康应用中的探究

    该论文讨论使用以用户为中心的角度来解决人工智能不可解释性的问题，并通过在线调查分析用户的不同偏好和特征来设计可解释人工智能，结果将用户分为三类：强权、休闲和隐私导向型用户，从而为人工智能的实际应用带来更人性化的交互。

    Oct, 2022

  • 面向用户的人机交互可解释人工智能框架

    提出了一个以用户为中心的框架，旨在为非专业用户提供交互式可解释人工智能解决方案。

    Sep, 2021

  • 可解释化人工智能并未提供最终用户所要求的解释

    阐释可解释的人工智能（XAI）技术应用于复杂模型的机器学习系统中，以增强其透明度与验证，从而取得用户的信任。然而，XAI 在部署上存在局限性，因此透明度和严格验证更适合在获取人工智能系统信任时使用。

    Jan, 2023

  • 推动可解释人工智能迈向人类智能：铸造人工大脑之路

    人工智能与神经科学在可解释的人工智能中的交叉是增强复杂决策过程中透明度和可解释性的关键，本文探讨了从基于特征到以人为中心的方法的可解释的人工智能方法学的演变，并深入研究了它们在包括医疗保健和金融在内的不同领域的应用。同时讨论了在生成模型的可解释性、确保负责任的人工智能实践以及应对伦理影响方面的挑战。本文进一步研究了可解释的人工智能与认知科学的潜在融合、情感智能人工智能的发展以及人工智能系统中人类智能的追求。随着人工智能向人工通用智能的发展，对意识、伦理和社会影响的考虑变得至关重要。致力于通过人工智能解密大脑奥秘和实现人类智能的追求代表了结合技术进步与多学科人类认知探索的变革性努力。

    Feb, 2024

  • 走向可解释人工智能（XAI）：数据挖掘视角

    通过数据挖掘方法和应用的角度，对深度神经网络进行可解释人工智能（XAI）的综合、数据中心的研究，并将现有工作分为三类：对深层模型的解释、对训练数据的影响以及领域知识的洞察。

    Jan, 2024