ICLRNov, 2017

通过联合学习句法和词汇进行神经语言建模

PDF
TL;DR本文提出了一种新型的神经语言模型 Parsing-Reading-Predict Networks（PRPN），利用其特定的神经网络结构能够自动识别未标注的句子的句法结构，并利用它来学习更好的语言模型。实验证明，该模型能够发现底层的句法结构，并在单词 / 字符水平的语言模型任务上取得了最先进水平。
neural language modelsyntactic structure inductionparsing-reading-predict networkslanguage modelingstate-of-the-art performance
发现论文，激发创造
  • 一种基于模仿学习的无监督解析方法

    我们提出了一种模仿学习的无监督句法分析方法，将 PRPN 诱导的句法知识转移到带有离散句法分析操作的 Tree-LSTM 模型上，并通过 Gumbel-Softmax 训练不断优化其策略以实现更好的语义目标。在 All-NLI 数据集上进行实验，证明我们的方法在句法得分上超过了基准模型，包括 PRPN。

    Jun, 2019

  • 基于自顶向下树形解码与句法连接的神经机器翻译与句法分析

    本文提出了一种基于 DRNN 的序列到树的 NMT 模型 (称为 Seq2DRNN)，该模型在树结构解码中结合了序列编码器和句法感知机制，并使用语法结构信息从而能够生成更流畅的翻译结果，同时可以进行成分句法分析。

    Sep, 2018

  • 应用可逆神经投影进行无监督学习句法结构

    提出了一种新颖的生成模型，通过串联一个可逆神经网络和一个结构化的生成先验，在无监督的情况下联合学习离散的句法结构和连续的词表示，实现了高效的精确推断和边缘似然计算，并在两个任务中进行了实验评估。

    Aug, 2018

  • 循环神经网络语法

    本研究介绍了递归神经网络语法与其使用的高效推理过程，分别应用于句法分析和语言模型，实验结果表明在英文的句法分析和英汉语言模型方面，其效果均优于所有以前发表的有监督生成模型和最先进的序列 RNNs。

    Feb, 2016

  • 通用代码生成的句法神经模型

    本文提出了一种新型神经体系结构，它由语法模型支持，旨在将自然语言描述解析为基于 Python 等通用编程语言的源代码，并将其显式地捕获为先验知识，以实现从自然语言描述生成复杂程序的规模化。实验证明，这是一种有效缩放到语言描述的复杂程序的方法，取得了优于以前代码生成和语义解析方法的最新成果。

    Apr, 2017

  • 利用句法结构进行语言模型优化

    该论文介绍了一种语言模型，它利用句法结构从单词历史中提取有意义的信息，从而使得可以使用远距离依赖关系。该模型分配概率给每个单词序列 - 带头词注释的二元解析结构，并以左到右的方式运作，因此适用于自动语音识别。通过一系列实验来评估预测能力，该模型及其概率参数化对标准三元模型进行了改进。

    Nov, 1998

  • 结构化语言模型

    本文提出一种语言模型，其利用句法结构从单词历史中提取有意义的信息，实现了远距离依赖关系的利用。该模型为每个单词序列 - 二元分析结构分配概率加以注解，同时提出了概率参数化和一组评估其预测力的实验。

    Nov, 1998

  • 一种快速的句法分析和句子理解统一模型

    SPINN 集成树形结构的句子解释和移位规约分析器的线性序列结构中，支持大规模 NLP 任务的批量计算，并且在 Stanford NLI 蕴含任务中表现优异。

    Mar, 2016

  • 规则增强的无监督短语结构句法分析

    该研究提出了一种基于语法规则的非监督句法树生成方法，利用了语言的通用语法知识，采用强化学习和自编码器等技术，在 MNLI 和 WSJ 两个基准数据集上实现了最好的结果。

    May, 2021

  • 薛定谔树 -- 论语法与神经语言模型

    本文回顾了近年来自然语言处理领域的语言模型的发展，并探讨在研究语言模型中基于句法的研究中存在的问题以及解决方案，旨在为未来语言模型的研究提供一种较为多样化和立体化的研究视角。

    Oct, 2021