中介者：对话代理解释自然语言处理模型行为

IJCAIJun, 2022

中介者：对话代理解释自然语言处理模型行为

Mediators: Conversational Agents Explaining NLP Model Behavior

Nils Feldhus, Ajay Madhavan Ravichandran, Sebastian Möller

TL;DR介绍了一种以人为中心的可解释人工智能（HCXAI），并提出了基于文本的对话代理人（Mediators）的期望，以交互方式使用自然语言解释神经模型的行为，重点评估了对话式解释在情感分析方面的研究进展。

Abstract

The human-centric explainable artificial intelligence (HCXAI) community has raised the need for framing the explanation process as a conversation between human and machine. In this position paper, we establish de

human-centric explainable artificial intelligence conversation mediators natural language processing sentiment analysis

发现论文，激发创造

自然对话中的机器学习模型解释：走向会话型可解释人工智能代理

本文介绍了如何将可解释人工智能（XAI）应用于对话代理中，通过使用自然语言理解和生成组件来理解用户的信息需求并提供相应的解释。作者通过综合调查文献，提出了一份全面的可解释人工智能问题列表及相应的解释方法。

Sep, 2022

通过对话式解释探索 NLP 模型和数据集的 InterroLang

通过在 NLP 领域中使用具有自由文本理性化功能的对话系统，研究人员对 NLP 任务进行了改进，并通过评估模型性能和用户研究，证明了理性化和特征归因在解释模型行为方面的有效性。

Oct, 2023

面向可解释人工智能的基于场景对话模型

本文旨在探讨为了与用户建立信任，可解释人工智能系统需要包括一个解释模型，其可以向交互的人类沟通其内部的决策、行为和操作。该文通过对 398 种不同解释对话类型的记录进行分析，提出了一种人类解释对话模型，并使用基础理论进行编码和确定其关键成分，还进一步分析了对话中发生的序列和周期的关系，提出了一种泛化状态模型。

Jun, 2018

可解释人工智能的基础交互协议

本文探讨了可解释人工智能系统中的交互式解释问题，并提出了一种基于代理对话框架的交互协议模型，通过对 398 个解释对话的分析和人机交互实验的验证，证明该模型能够准确地模拟人机交互对话。

Mar, 2019

重新审视可解释性：从实践者的角度看对话式解释

研究如何让领域专家能够有效地与机器学习模型进行互动和问责，通过自然语言对话的形式提供交互式的解释。

Feb, 2022

理解代理程序：利用大型语言模型进行行为解释

基于状态和行为观察生成自然语言解释，不依赖于基础模型的表示，能解释智能代理行为，使用户能够与预训练的大型语言模型进行交互并生成有助于解释与推理的解释。

Nov, 2023

用大型语言模型解释代理行为

智能代理通过观察状态和行为生成自然语言解释，以理解其行为，从而促进与用户的互动。