Aug, 2024

可解释人工智能重启：在大语言模型时代挑战可解释性人工智能的现状

HTML
PDF
TL;DR本研究针对在大型语言模型（LLMs）时代，可解释人工智能（XAI）面临的理解困难提出了问题。文章提出应采取以人为中心的视角，超越传统“打开黑箱”的假设，通过三个维度综合XAI研究，揭示了新的可解释性路径。研究结果为XAI领域的未来方向提供了重要启示，强调了人类中心方法的重要性。
发现论文，激发创造
  • 可解释人工智能分析和设计的多组件框架

    这篇论文讨论了符合科学历史的可解释人工智能(XAI)的框架问题，其原因追溯至现代机器学习（尤其是深度和强化学习）和对创造值得信赖的AI系统的关注，它的五个级别框架是 XAI 的关键组成部分。

    May, 2020

  • 人类中心的可解释人工智能 (XAI)：从算法到用户体验

    本文介绍了可解释AI的技术领域以及人们对人机交互和用户体验设计日益重视，在XAI的设计、评估、概念和方法论工具方面提供人本方法的作用。本文旨在提供人本的XAI设计，并帮助传达和扩展已有的XAI工具箱。

    Oct, 2021

  • 连接算法研究和使用情境：可解释AI的情境化评估视角

    本文介绍了可解释性人工智能（XAI）的不同用途，指出现有算法的评估方法对这些用途缺乏考虑，提出了一种基于使用情境的 XAI 评估方法，通过两项调查研究表明，这种方法更能满足用户的需求。

    Jun, 2022

  • 透过终端用户启发式设计超越XAI算法边界

    本研究介绍了四个新的可解释人工智能技术问题，这些问题围绕设计和评估算法，并呼吁建立基于人类需求的可解释人工智能技术开发研究范式，以保证人工智能在关键任务中的负责任使用。

    Aug, 2022

  • XAI的社会建构：我们需要一个支配所有的定义吗？

    本文阐述了Explainable AI（可解释的AI）缺乏单一定义的原因，并通过社会技术构建和许多参与者的不同解释提出了解释灵活性的概念。早期将多元化解释强行规范化会限制创新并导致过早的结论。我们分享了如何利用这种多元化来推进Explainable AI而无需等待定义上的共识。

    Nov, 2022

  • 用户中心XAI的系统方法分类学：一项调查

    本文提出一种基于系统论的统一、包容、用户中心分类法，旨在解决现有的以专家为中心的可解释人工智能方法的不足之处，以此评估适用于不同用户类型的解释方法的适当性和性能。

    Mar, 2023

  • 任务无关的可解释人工智能是否是一种神话？

    本文提出了一个框架来统一解释人工智能（XAI）领域的挑战。尽管XAI方法可以为机器学习模型提供有用的输出，但研究人员和决策者需要注意这些方法的概念和技术限制，这些限制通常导致这些方法本身变成黑匣子。作者使用图像、文本和图形数据，研究了涉及突出显示、关注和图形解释器的三种XAI研究途径。尽管这些案例的背景和时间跨度各不相同，但是同样的持续困难仍然出现，这凸显了在此领域要应对XAI方法和应用任务之间兼容性挑战的概念突破的必要性。

    Jul, 2023

  • 可解释人工智能（XAI）2.0：开放挑战和跨学科研究方向的宣言

    通过提出27个开放问题分类为九类，本文不仅强调了XAI及其在现实世界中的应用的进展，也解决了XAI中的挑战，并强调了更广泛的视角和协作努力的需求，以推动XAI的发展和贡献于其持续成功。

    Oct, 2023

  • 可用性解释人工智能：在LLM时代利用解释能力的10种策略

    该文介绍了可解释人工智能（XAI）在大型语言模型（LLMs）领域的应用，探讨了XAI对LLMs的影响及LLMs对XAI的贡献，并提出了十种策略以及相关挑战和案例分析。

    Mar, 2024

  • 可解释人工智能的重新思考：在大型语言模型时代挑战可解释性人工智能的现状

    本研究旨在解决可解释人工智能（XAI）在大型语言模型（LLMs）出现后面临的理解限制。文章提出了一种人本视角，推动了对可解释性的重新定义，并系统整合了现有的XAI研究。最重要的发现是，将注意力从算法本身转向人类用户的理解需求，能显著提升XAI的有效性和实际应用潜力。

    Aug, 2024