ACLApr, 2019

基于丰富语义表达的神经文本生成

PDF
TL;DR使用神经模型基于最小递归语义 (MRS) 的结构化表示，生成高质量文本，通过将基于依赖关系的 MRS 的线性化映射到英文文本，可以实现 BLEU 得分为 66.11，该方法可通过使用高精度的广覆盖语言模型生成训练语料库得到进一步提升，在完整测试集上达到 77.17，进一步在与银标准数据最接近的测试数据子集上达到 83.37，结果表明 MRS-based 表示是需要同时具有结构化语义和文本生成能力的应用程序的良好选择。
neural modelsminimal recursion semanticsdependency mrsbleu scorenatural language text
发现论文，激发创造
  • 鲁棒的增量神经语义图解析

    该研究提出了一个基于神经编码器 - 解码器的转移句法分析器，可以作为关于最小递归语义的完全覆盖的语义图分析器，预测图与非词汇化谓词及其标记对齐共同。该分析器比注意力模型基准更准确，并且在 GPU 批处理方面比高精度基于语法的分析器快一个数量级。此外，我们的最小递归语义分析器的 86.69％ Smatch 得分高于 AMR 分析的上限，这使得 MRS 成为有吸引力的语义表示选择。

    Apr, 2017

  • 神经 AMR: 序列到序列模型用于解析和生成

    使用数百万个未标记的句子和对 AMR 图的精心预处理，我们提出了一种新颖的训练过程，成功地解决了 AMR 中有限的标记数据和非顺序的图表征对序列到序列模型的限制。我们在 AMR 解析和生成任务上取得了竞争性结果，并得到了丰富的分析和证据表明序列基 AMR 模型对图表征的排序变化具有鲁棒性。

    Apr, 2017

  • 基于字符级别翻译的神经语义解析：对抽象意义表示的实验

    我们使用字符级翻译的方法对一大语料库中注释有抽象意义表示的句子进行神经语义解析的评估。通过一些简单的预处理和后处理，我们使用序列到序列模型得到了一个基线准确率为 53.1。研究了五种不同的方法来改善这个基线结果，结合这五种技术的结果使获得了一项 AMR 解析的最新进展状态的成果，F 分数为 71.0。

    May, 2017

  • 探索用于解析话语表示结构的神经方法

    提出了一种基于 Neural 的序列到序列的语义解析器，它能够高准确率地产生英语句子的 DRSs，并通过引入 De Bruijn 索引消除变量名以提高解析器性能，以及加入银标注数据来进一步提高性能。

    Oct, 2018

  • 基于语义的神经机器翻译：使用 AMR

    研究表明，通过在神经机器翻译中使用抽象意义表示（AMR）作为额外知识，可以显著改善一种强的基于注意力的序列到序列神经翻译模型在标准英德数据集上的翻译表现。

    Feb, 2019

  • 带有句法感知词表示的句法增强神经机器翻译

    本研究提出了一种基于依赖解析器的隐式语法表示方法，通过使用中间隐藏的依赖解析器表示来增强基础神经机器翻译模型，可以在中英文和英越翻译任务的基准数据集上显著提高 BLEU 打分表现，并超过了显式树状 RNN 和线性化方法。

    May, 2019

  • 对话建模的语义表示

    我们使用抽象意义表示（AMR）来协助神经对话建模，将 AMR 图形构建到对话系统中会更显著地提高对话理解和响应生成任务的效果。

    May, 2021

  • 使用抽象意义表示导向神经语言生成进行摘要生成

    本文提出了通过 Abstract Meaning Representation (AMR) 结合神经语言生成模型的抽象摘要方案，使用源文档进行指导可以提高抽象摘要的质量，并在 ROUGE-2 测试中表现优异。

    Aug, 2018

  • 使用抽象意义表示对多语言句子嵌入进行改进

    本研究提出了一种新方法，使用抽象意义表示（AMR）来改善现有的多语言句子嵌入。研究表明，使用 AMR 可以提高多语言句子嵌入在语义相似性和转移任务上的性能。

    Oct, 2022

  • 揭示语义检索对大规模机器阅读的重要性

    本文提出管道系统及语义检索中间层制定通用设计指南。在事实检查和开放领域多跳 QA 中，该系统取得了表现。统计分析表明，中间层语义检索提高了上游信息的筛选效率，下游建模的数据质量，实现了学习上下文逻辑结构的机器阅读。

    Sep, 2019