Sep, 2022

母亲总是有办法解释让我明白：一个用于学习构建解释的对话语料库

PDF
TL;DR本文介绍了一个对话式解释语料库，用于 NLP 研究人类解释过程，并探讨基于 BERT 的基线结果。
explainable aidialogical explanationsnlp researchcorpusbert-based baseline results
发现论文，激发创造
  • 面向可解释人工智能的基于场景对话模型

    本文旨在探讨为了与用户建立信任，可解释人工智能系统需要包括一个解释模型，其可以向交互的人类沟通其内部的决策、行为和操作。该文通过对 398 种不同解释对话类型的记录进行分析，提出了一种人类解释对话模型，并使用基础理论进行编码和确定其关键成分，还进一步分析了对话中发生的序列和周期的关系，提出了一种泛化状态模型。

    Jun, 2018

  • 对话解释质量建模

    通过分析 Reddit 论坛中的 399 个对话，研究了解释对话的交互流程以及它们如何与成功理解相关，最终使用两个能处理较长输入的语言模型对交互流程进行编码，并提供了经验证据证明编码对预测解释对话成功的有效性提升。

    Mar, 2024

  • 提供个性化解释：对话式方法

    在这篇论文中，我们提出了一种通过与受解释者连续对话的方式，使得解释者能够向受解释者传达个性化解释的方法。我们证明只要对于最初的主张存在一个解释受解释者能够理解且解释者知晓，通过对初始主张进行合理化，对话将终止。

    Jul, 2023

  • 可解释人工智能的基础交互协议

    本文探讨了可解释人工智能系统中的交互式解释问题，并提出了一种基于代理对话框架的交互协议模型，通过对 398 个解释对话的分析和人机交互实验的验证，证明该模型能够准确地模拟人机交互对话。

    Mar, 2019

  • 重新审视可解释性：从实践者的角度看对话式解释

    研究如何让领域专家能够有效地与机器学习模型进行互动和问责，通过自然语言对话的形式提供交互式的解释。

    Feb, 2022

  • 可以请问一个后续问题吗？理解神经网络可解释性中对话的好处

    我们研究了自由形式对话是否可以提高用户理解静态解释的能力，改善对解释方法的接受度和信任度，并促进人工智能与人类的合作。实证结果表明，对话显著提高了理解、接受度、信任度和合作能力，强调了以自由形式对话的方式提供定制化模型解释的重要性，并为未来的对话解释设计提供了启示。

    Sep, 2023

  • 通过对话式解释探索 NLP 模型和数据集的 InterroLang

    通过在 NLP 领域中使用具有自由文本理性化功能的对话系统，研究人员对 NLP 任务进行了改进，并通过评估模型性能和用户研究，证明了理性化和特征归因在解释模型行为方面的有效性。

    Oct, 2023

  • 科学解释与自然语言：用于可解释人工智能的统一认识论 - 语言学视角

    通过系统分析自然语言解释、结合归纳和演绎论证、和哲学科学中的科学解释现代观念，探讨可解释 AI（XAI）中的可解释性，并揭示自然语言解释的本质，功能，抽象维度和科学解释的含义。

    May, 2022

  • 自然对话中的机器学习模型解释：走向会话型可解释人工智能代理

    本文介绍了如何将可解释人工智能（XAI）应用于对话代理中，通过使用自然语言理解和生成组件来理解用户的信息需求并提供相应的解释。作者通过综合调查文献，提出了一份全面的可解释人工智能问题列表及相应的解释方法。

    Sep, 2022

  • 中介者：对话代理解释自然语言处理模型行为

    介绍了一种以人为中心的可解释人工智能（HCXAI），并提出了基于文本的对话代理人（Mediators）的期望，以交互方式使用自然语言解释神经模型的行为，重点评估了对话式解释在情感分析方面的研究进展。

    Jun, 2022