Jun, 2022

神经网络用于 AMR 到文本的调查

PDF
TL;DR本文概述了 AMR-to-Text 的研究现状和方法，并细分为基于规则，Seq-to-Seq，Graph-to-Seq，Transformer 和 PLM 等五类方法。着重介绍了基于神经网络的方法和 AMR-to-Text 的最新进展，包括 AMR 重构和 Decoder 优化等。此外，本文还介绍了 AMR-to-Text 的基准测试和评价方法，并提供了当前技术和未来研究的展望。
发现论文，激发创造
  • 神经 AMR: 序列到序列模型用于解析和生成

    使用数百万个未标记的句子和对 AMR 图的精心预处理，我们提出了一种新颖的训练过程，成功地解决了 AMR 中有限的标记数据和非顺序的图表征对序列到序列模型的限制。我们在 AMR 解析和生成任务上取得了竞争性结果，并得到了丰富的分析和证据表明序列基 AMR 模型对图表征的排序变化具有鲁棒性。

    Apr, 2017

  • 面向 AMR 转文本生成的图到序列模型

    该论文介绍了一种神经网络模型，使用新颖 LSTM 结构直接编码图级别的语义信息，用于 AMR-to-text 生成任务，并在标准数据集上实现了优于现有方法的结果。

    May, 2018

  • AMR 到文本生成的结构神经编码器

    本文探讨了 AMR-to-text generation 在使用图编码器和树编码器处理 AMR 图时，对于包含多 parent nodes 的 reentrancies 的处理方式对生成文本的影响，并通过比较实验发现，对于 reentrancies 以及长距离依存的处理方式的改进可以提高图编码器的 BLEU 得分，最佳成绩分别在 LDC2015E86（24.40）和 LDC2017T10（24.54）上超过 state of the art。

    Mar, 2019

  • AMR-to-Text 生成的在线反向解析

    本文提出一种新的 AMR-to-text 生成方法，通过在文本生成期间反向预测目标句子上的 AMR 图进行解码，相比于基于标准语言模型的解码器能更好地保留输入含义，并在两个 AMR 基准测试上显示了优越性。

    Oct, 2020

  • GPT-too：一种以语言模型为首选的 AMR-to-text 生成方法

    本文提出了一种基于预处理的强化语言模型和基于回环一致性的重新评分相结合的方法，有效地生成表征意义的 AMRs 数据的文本，并在英语 LDC2017T10 数据集上的表现优于以往的所有技术，包括 transformer 架构。

    May, 2020

  • AMR 解析和生成的图形预训练

    本文研究了利用图形自监督训练来提高 PLMs 模型在 AMR 图结构上的结构意识； 它同时介绍了两种图形自编码策略，四个任务以及一个统一的框架来缩小预训练和微调任务之间的差距。实验结果表明了这种方法在 AMR 分析和 AMR-to-text 生成方面的优越性。

    Mar, 2022

  • 多语言 AMR-to - 文本生成

    本论文关注结构化数据的文本生成问题，并着眼于通过跨语言嵌入、预训练和多语言模型生成 21 种不同语言的 AMR 到文本模型。通过分析人类评估，我们发现我们的多语言模型能够准确捕捉形态和语序，并被母语人士视为流畅。

    Nov, 2020

  • 基于 Transformer 建模图形结构以提升 AMR-to-Text 生成

    本文研究针对 AMR-to-text generation 的问题，提出了一种新颖的基于自注意力机制的模型，用于更好地模拟 AMR 图中间接连接概念之间的关系。通过实验在英语 AMR 基准数据集上展示了该模型明显优于现有模型的效果，成绩达到了该基准数据集的最好结果。

    Aug, 2019

  • 用双图表示增强 AMR 到文本生成

    提出了一种新的基于图的序列模型，能够有效地对 AMR 图进行编码，借助不同的顶部和底部节点表示以及节点传递策略，实现了更好的文本生成表现，并在两个 AMR 数据集上达到了最先进的结果。

    Sep, 2019

  • 基于语义的神经机器翻译：使用 AMR

    研究表明，通过在神经机器翻译中使用抽象意义表示（AMR）作为额外知识，可以显著改善一种强的基于注意力的序列到序列神经翻译模型在标准英德数据集上的翻译表现。

    Feb, 2019