Oct, 2020

利用解释作为潜在变量实现可解释的自然语言理解

PDF
TL;DR本文提出了一种可解释自然语言理解的框架，使用一小部分人类注释的解释进行训练，并采用变分 EM 方法进行优化，同时提出了基于解释的自训练方法，在两个自然语言理解任务上进行实验，证明了该框架不仅可以在监督和半监督设置下进行有效的预测，还可以生成良好的自然语言解释。
natural language understandingexplanation generationsemi-supervised learningneural modelvariational em
发现论文，激发创造
  • 面向可解释性自然语言处理：文本分类的生成式解释框架

    本文提出了一个新的生成式解释框架，学习同时进行分类决策和生成细粒度解释，实验证明该方法可以生成简明的解释，超过所有基线系统。

    Nov, 2018

  • 潜在解释器：用多模态基础模型解释深度生成模型中的潜在表示

    本文介绍了 LatentExplainer，这是一个自动化生成深度生成模型中潜变量语义有意义解释的框架，通过扰动潜变量和解释生成数据的变化，提供了一种系统的方法来理解和控制数据生成过程，增强了深度生成模型的透明度和可解释性。

    Jun, 2024

  • 基于生成模型的自然语言推理解释的交互式可解释人工智能框架

    INTERACTION 是一个生成性 XAI 框架，提供两个步骤的术语解释生成方法，具有 better performance 和多样性。

    Sep, 2022

  • 神经故事生成中预测可解释情节的学习

    本文提出了一种基于潜在变量模型的神经故事生成方法，采用外部摘要模型指导该方法从训练数据中学习生成具有可解释高级情节的概述，并在自动和人类评估中取得了显著的改进。

    Dec, 2019

  • 使用较少的监督学习可解释的潜在对话动作

    本文介绍了一种用于解释任务对话建模的新型系统，基于离散潜变量表示对话行为。该模型基于变分循环神经网络，无需显式的语义信息。与以前的工作不同，我们的方法分别对系统和用户轮次进行建模，同时执行数据库查询建模，使得该模型适用于任务对话，同时生成易于解释的操作潜变量。我们展示了我们的模型在三个数据集上以较少的监督下在困惑度和 BLEU 方面优于以前的方法，并提出了一种衡量对话成功的新方法，无需专家注释。最后，我们提出了一种关于系统操作的潜变量语义的新方法来解释。

    Sep, 2022

  • 利用大型多模式模型解释生成模型的潜在表示

    我们提出了一个框架，使用大型多模态模型全面解释生成模型中的每个潜在因子，并量化评估我们生成解释的不确定性，从而学习不同生成模型对解释的解缠效果，最后讨论最先进的大型多模态模型的解释能力和局限性。

    Feb, 2024

  • 利用多任务预训练技术，提升基础自然语言解释能力

    通过应用大规模多任务生成 Transformer 模型的最新进展，我们提出了一种新的 VL-NLE 方法，其提供人类更容易理解的解释，并优于当前技术水平。同时，我们还探讨了高质量 NLE 生成的伦理影响和其他最近 VL-NLE 研究中存在的问题。

    Dec, 2022

  • 大型语言模型的可解释性概述

    对大型语言模型的解释技术进行分类和总结，并讨论了这些技术在训练范式、生成局部解释和全局解释方面的应用以及评估指标、调试模型和提高性能的挑战和机会。

    Sep, 2023

  • 面向现实世界低资源场景的并行句子级解释生成

    本文旨在探讨如何更好地提供可解释的语言模型预测，通过将训练数据从强监督学习转向弱监督和无监督学习，并提出一种既实现并行解释生成和同时预测的非自回归解释模型，能够以比目前自回归模型快 10-15 倍的速度训练分类器。

    Feb, 2023

  • 自解释结构提高自然语言处理模型

    本论文提出了一种简单而通用的自说明深度学习模型的框架，通过添加一个解释层来聚合不同文本段落的信息并赋予权重，不需要额外的诱导模型，可以为高层次的文本单元提供直接的重要性评分，并在 SST-5 和 SNLI 数据集上取得了新的最好表现。

    Dec, 2020