Apr, 2021

组合式任务导向对话的非自回归语义分析

PDF
TL;DR本研究提出了一种基于非自回归模型和卷积神经网络的有效序列到序列模型，以预测语义分析树，实现了较传统循环神经网络模型更高的时延优化和参数规模缩减，并在三个不同的语义分析数据集上表现出竞争性能力。
semantic parsingsequence-to-sequence modelsnon-autoregressive approachconvolutional neural networkslatency gains
发现论文，激发创造
  • 非自回归任务导向语义解析的跨度指针网络

    本研究提出基于 span pointer networks 的非自回归任务导向的语义解析器，通过将推断任务从文本生成转移到区间预测，从而改善了长度预测和提高了模型的泛化能力。

    Apr, 2021

  • 将句法和语义结构丰富非自回归变压器用于神经机器翻译

    本研究旨在提高非自回归模型的神经机器翻译的效率和性能，通过将语言的句法和语义结构以及目标句子中的中间潜在对齐纳入一个非自回归 Transformer 模型。实验证明，该模型在速度上显著提高，与现有的多个最先进的非自回归模型相比，在保持翻译质量的同时表现突出。

    Jan, 2021

  • 通过意图调节改善用于非自回归语义解析的 Top-K 解码

    提出了一种基于意图编码的新型 NAR 语义解析器，解决了 NAR 解码器生成 top-k 输出的困难，达到了与现有 NAR 模型相同的解码时间复杂度 O (1)，生成更多样化的输出并提高了 top-3 准确匹配率。

    Apr, 2022

  • 半监督序列自编码器语义解析

    我们提出了一种新颖的半监督方法，应用于序列转换和语义分析。该方法包含基于生成模型的无监督成分，在该模型中，潜在的句子生成不成对的逻辑形式，我们将此方法应用于许多语义解析任务，重点关注训练数据标记不足的领域，并使用合成逻辑形式扩充这些数据集。

    Sep, 2016

  • 不解析，生成！一种用于面向任务的语义解析的序列到序列架构

    本文提出了一种基于序列到序列模型和指针生成网络的统一架构，旨在处理既能识别简单 Action 单一的查询，也能处理更复杂的分段实体的查询，并在 ATIS、SNIPS 和 Facebook TOP 数据集上取得了最先进的准确率，不需要对语义分析模式加任何限制。

    Jan, 2020

  • 不解析，直接插入：基于插入解码的多语言语义解析

    本文介绍了一种基于插入变换器的非自回归解析器来提高语义解析效率和跨语言迁移学习的能力，并在多个数据集上进行测试。

    Oct, 2020

  • RETRONLU：检索增强的任务导向语义解析

    使用检索式建模的思想，为会话助手的多领域任务定向语义解析问题引入了 RetroNLU 方法，通过在序列到序列模型中扩展检索部件，我们的技术在语义解析的不同语言表达复杂度下均比基线更为出色，尤其是在数据稀缺环境下，只需 40％的数据即可达到基线模型准确度的匹配，超越基线方法 1.5％的绝对宏 - F1。

    Sep, 2021

  • 语义标记实现组合泛化

    在语义解析中，提出了一个新的解码框架，该框架保留了序列到序列模型的表现力和通用性，同时具有类似词典的对齐和解开信息处理，能够提高模型的组合泛化能力。

    Oct, 2020

  • 使用多重集标记和潜在置换实现无需树形结构的组合泛化

    我们利用新的参数化和置换预测方法，提出了一种将语义解析理解为两步处理，并通过规则化线性规划求解器来预测排列，进而取得了比预训练 seq2seq 模型和之前的工作更好的性能，实现了在深度递归上的高准确度的泛化。

    May, 2023

  • 基于图形的无递归语义解析

    本文提出了一种新的基于图的方法来进行语义解析，解决了文献中观察到的两个问题：(1) seq2seq 模型无法完成组合泛化任务；(2) 使用短语结构解析器的先前工作无法涵盖树库中观察到的所有语义解析。我们证明了两个优化算法的正确性，用基于约束平滑和条件渐变的方法近似解决这些推断问题。实验证明，我们的方法在 Geoquery、Scan 和 Clevr 上都具有最先进的效果，包括在测试组合泛化的过程中。

    Feb, 2023