May, 2022

科学解释与自然语言：用于可解释人工智能的统一认识论 - 语言学视角

PDF
TL;DR通过系统分析自然语言解释、结合归纳和演绎论证、和哲学科学中的科学解释现代观念，探讨可解释 AI（XAI）中的可解释性，并揭示自然语言解释的本质，功能，抽象维度和科学解释的含义。
explainable aiscientific explanationnatural language explanationsinductive argumentsabstraction
发现论文，激发创造
  • 剔除 XAI 中的 X：关于可理解人工智能的呼吁

    深度神经网络的可解释性问题可以通过采用不同的科学解释模型，避免当前解释模糊性而产生的困惑，更有助于用 “可理解的人工智能” 标签避免 XAI 的混淆。

    Mar, 2024

  • 自然语言处理中可解释人工智能的现状调查

    介绍当前自然语言处理中可解释 AI 的现状和对主要解释的分类，探究生成和可视化解释的各种方式和操作，详细介绍了为 NLP 模型预测生成解释的可用操作和可解释性技术，并提出当前领域研究存在的差距和未来方向。

    Oct, 2020

  • 可解释人工智能中因果关系的作用

    通过研究文献，我们发现因果关系和可解释人工智能 (XAI) 是紧密联系的，彼此之间存在三种关系视角：缺乏因果关系限制了当前人工智能与可解释人工智能方法的发展，理想的解释形式的探索，以及因果关系作为可解释人工智能的先导，并通过从因果关系中借用概念、利用反事实以及将因果模型作为自我解释等方式进行研究。通过提供相关软件解决方案，我们为自动化因果任务提供了补充分析，并强调了因果关系和可解释人工智能领域之间的潜在领域桥梁和可能的限制。

    Sep, 2023

  • 自然对话中的机器学习模型解释：走向会话型可解释人工智能代理

    本文介绍了如何将可解释人工智能（XAI）应用于对话代理中，通过使用自然语言理解和生成组件来理解用户的信息需求并提供相应的解释。作者通过综合调查文献，提出了一份全面的可解释人工智能问题列表及相应的解释方法。

    Sep, 2022

  • 面向可解释人工智能的基于场景对话模型

    本文旨在探讨为了与用户建立信任，可解释人工智能系统需要包括一个解释模型，其可以向交互的人类沟通其内部的决策、行为和操作。该文通过对 398 种不同解释对话类型的记录进行分析，提出了一种人类解释对话模型，并使用基础理论进行编码和确定其关键成分，还进一步分析了对话中发生的序列和周期的关系，提出了一种泛化状态模型。

    Jun, 2018

  • 解释解释：机器学习的可解释性概述

    有关解释人工智能的最佳实践和挑战的调查表明，现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。

    May, 2018

  • XAI - 解释的理解形式

    在计算机科学和人工智能中，可解释性已经成为一个重要的话题，从而引出了一门称为可解释人工智能（XAI）的子领域。本概念性的文章旨在从跨学科的视角，将计算机科学、语言学、社会学和心理学整合，探讨在 XAI 和其他领域中理解及其形式、评估和动力学的模型。理解的两种类型被视为解释的可能结果，即使能型（知道如何做或决定某事）和理解型（知道某事）-- 两者程度不同（从浅到深）。解释通常从某一领域的浅层理解开始，可以达到深层的理解和使能，这被视为人类用户获得能动性的先决条件。在这一过程中，理解和使能性的增加高度相互依赖。本文还探讨了 XAI 中理解面临的特殊挑战。

    Nov, 2023

  • 自然语言处理中解释价值的作用

    本文主要讨论了自然语言处理应该注重语言行为的解释价值，而非仅仅是模型的可解释性，并比较了一些人类语言生产模型，提出了自然语言处理研究和机构政策在注重可解释性的同时，需要注意一些可能的陷阱。

    Sep, 2022

  • 可解释人工智能的基础交互协议

    本文探讨了可解释人工智能系统中的交互式解释问题，并提出了一种基于代理对话框架的交互协议模型，通过对 398 个解释对话的分析和人机交互实验的验证，证明该模型能够准确地模拟人机交互对话。

    Mar, 2019

  • 解释并非技术术语：XAI 中的歧义问题

    本研究探讨了可解释性人工智能（XAI）中说明的特征和其效用评估，强调了说明的功能角色、用户知识状态以及生成说明所需的信息的要求，并定义了 XAI 领域的重要下一步：建立指导和基础系统生成说明效用的度量标准，以避免 XAI 可能带来的对系统的信任而没有建立其可靠性。

    Jun, 2022