May, 2023

学习适当组合句法和语义表示以实现组合泛化

PDF
TL;DR该研究提出了 COMPSITION 模型，它是 Seq2Seq 模型的一个扩展，旨在通过引入一个复合层来适当地学习不同编码器层的表示，以生成传递到不同解码器层的不同键和值，从而在两个现实基准上取得了有竞争力的甚至是最先进的结果。
seq2seq modelscompositional generalizationrepresentation entanglementcompsitionrealistic benchmarks
发现论文，激发创造
  • 使用中间表示解锁预训练模型中的组合概括能力

    通过使用中间表示法，这篇研究提出了一种改善基于预训练的 seq2seq 模型的组合泛化能力的有效方法，该方法在 CFQ 数据集上表现出新的最优水平（精度提高 14.8 个百分点），在三个 text-to-SQL 数据集的示例分割上精度提高了 15.0 到 19.4 个百分点。

    Apr, 2021

  • 层次表示融合的组合性泛化

    通过引入 fuse-attention 模块，提出了一种扩展的序列到序列模型（ extsc {FuSion}），以适当地将上一层的信息融合回编码和解码过程中，有效地解决了表示缠结问题，并在两个实际基准测试上取得了竞争性甚至最先进的结果，从而验证了我们的提议的有效性。

    Jul, 2023

  • 语义标记实现组合泛化

    在语义解析中，提出了一个新的解码框架，该框架保留了序列到序列模型的表现力和通用性，同时具有类似词典的对齐和解开信息处理，能够提高模型的组合泛化能力。

    Oct, 2020

  • 用于组合泛化的解开序列生成的学习模型

    本文提出了一种基于源输入逐步自适应重编码的 sequence-to-sequence 模型扩展，以此来鼓励解开编码时存在的混淆状态。最终实验结果表明，这个扩展能够提供更好的解释性和推广性。

    Oct, 2021

  • 元序列转序列学习实现的组成泛化

    本文介绍了如何通过元 seq2seq 学习策略来改进记忆增强神经网络，在此方法中，模型通过一系列的 seq2seq 问题进行训练，从而获得解决新 seq2seq 问题所需的组合技能，进而解决了组合学习的一些问题。

    Jun, 2019

  • 通过分离语法和语义，在深度序列到序列模型中实现对组合概括的学习

    本文提出一种基于神经机器翻译的新模型 Syntactic Attention，采用分离语法与语义学习的方式训练，拥有捕捉人类语言组成性结构的能力，相较于标准深度学习方法在具有组成性泛化任务的数据集 SCAN 上表现显著优异。

    Apr, 2019

  • 基于分解的序列到序列学习的真实世界组合通用化

    通过对 Disentangled sequence-to-sequence 模型进行改进，我们引入了两个关键的修改，以更好地处理语言中的组合概括，从而在现有任务和数据集上实现更好的泛化性能，并创造了一个新的机器翻译基准，并展示了这种方法比人工设计呈现更好的真实通用性。

    Dec, 2022

  • 面向任务型对话的基于组合表示的神经网络语言生成的约束解码

    本文提出使用树状结构的语义表示来改进对话系统中基于任务的自然语言生成问题，并介绍了一个挑战性的数据集，并展示了基于此表示的编码方法以提高语义正确性的结果。

    Jun, 2019

  • 组合推理需要组合分析器

    该研究系统比较了序列到序列模型和基于组合原则的模型在 COGS 语料库上处理组合泛化能力的能力，在结构泛化任务中，基于序列的模型表现接近零，而组成模型在结构泛化任务中表现接近完美，这表明结构泛化是组成泛化的关键度量，需要能够处理复杂结构的模型。

    Feb, 2022

  • 序列到序列模型对结构泛化的困难

    通过实验证明，Seq2Seq 模型在英语句法分析、语义分析和文本之间的转换任务中，普遍存在推广的普适性较低的问题，但是在建立了语言知识的神经符号模型中，这些限制往往可以克服。

    Oct, 2022