Feb, 2021

教我解释：可解释自然语言处理数据集综述

PDF
TL;DR本文总结了解释性自然语言处理领域近年来集中收集人类注释的文本解释，将其分为三类 (highlights, free-text, and structured) 并对其注释方法进行整理，提出了现有采集方法的优点和缺点，给出了未来收集数据集的建议。
发现论文，激发创造
  • 自然语言处理深度模型的可解释性研究

    本篇综述研究了在 NLP 领域中各种 ExplainableAI 方法的模型透明度，解释能力和评估方法，并将其分为三个层面：输入层（词嵌入），处理层（模型内部运算），输出层（模型判定），并提出了未来的研究方向。

    Oct, 2022

  • 通过解释理解和预测自然语言推理中的人类标签变化

    该论文创建了一个包含注解高亮和自由文本解释的生态有效的自然语言推断数据集 --LiveNLI。使用该数据集对思维链进行提示，发现目前 GPT-3 在预测标签分布方面仍有改进的空间

    Apr, 2023

  • 利用人类解释提高自然语言处理模型的研究调查

    本研究介绍了学习基于人类解释的方法，并比较了使用不同解释类型和机制的不同方法，以帮助从业者选择特定用例的最佳方法。

    Apr, 2022

  • 面向人本解释性文本分类基准的探索

    本文探讨了已有的文本分类数据集不能准确反映真实应用场景的问题，并提出了两点解决方案：一是在文本分类数据集中增加可解释性的评价指标，二是通过人类的应用场景与判断加强数据集的教学力度。

    Nov, 2022

  • 自然语言处理中可解释人工智能的现状调查

    介绍当前自然语言处理中可解释 AI 的现状和对主要解释的分类，探究生成和可视化解释的各种方式和操作，详细介绍了为 NLP 模型预测生成解释的可用操作和可解释性技术，并提出当前领域研究存在的差距和未来方向。

    Oct, 2020

  • 使用神经执行树学习解释

    本文提出了一种新的神经执行树（NExT）框架，通过语义分析将自然语言解释转换为可执行的逻辑形式，并使用该框架增强文本分类的训练数据，实验证明它在两种自然语言处理任务上（关系提取和情感分析）的表示能力优于基线方法。

    Nov, 2019

  • 面向可解释性自然语言处理：文本分类的生成式解释框架

    本文提出了一个新的生成式解释框架，学习同时进行分类决策和生成细粒度解释，实验证明该方法可以生成简明的解释，超过所有基线系统。

    Nov, 2018

  • 通过对话式解释探索 NLP 模型和数据集的 InterroLang

    通过在 NLP 领域中使用具有自由文本理性化功能的对话系统，研究人员对 NLP 任务进行了改进，并通过评估模型性能和用户研究，证明了理性化和特征归因在解释模型行为方面的有效性。

    Oct, 2023

  • 解释型自然语言处理的本地解释概览

    研究探讨了提高深度神经网络在自然语言处理（NLP）任务中的可解释性的各种方法，包括机器翻译和情感分析，并对术语 “可解释性” 及其各个方面进行了全面讨论。这项工作列举了与局部解释相关的各种方法，并将其分为三类：1）通过相关的输入特征解释模型的预测；2）通过自然语言解释进行解释；3）探查模型和单词表示的隐藏状态。

    Mar, 2021

  • 论人类解释的多样性和局限性

    通过对心理学和认知科学的先前研究，该论文将 NLP 中现有的人类解释分为三类：近端机制、证据和程序，这三种类型的解释具有不同的性质和结果。

    Jun, 2021