本文提出了一种基于递归 Transformer 模型的分层过程的方法，并将双向语言模型预训练目标扩展到此体系结构，试图预测每个单词给定其左右抽象节点。实验结果表明，我们的方法在语言建模和无监督解析方面非常有效。

Jul, 2021

本研究提出一种基于神经网络的译码器，结合层次短语作为训练的归纳偏差和显式约束，在维持标准序列到序列 (seq2seq) 模型的灵活性的同时。通过训练一个基于括号转录文法的判别式解析器，以层次化地对齐源和目标语短语，并使用一个神经 seq2seq 模型逐个地翻译这些对齐短语。该模型提出两种推理模式：一种只依赖于 seq2seq 模型进行序列级别的翻译，另一种则结合了解析器和 seq2seq 模型。研究结果表明，在小规模机器翻译基准测试中，该方法与对照方法相比表现良好。

Nov, 2022

本文提出了一种基于 DRNN 的序列到树的 NMT 模型 (称为 Seq2DRNN)，该模型在树结构解码中结合了序列编码器和句法感知机制，并使用语法结构信息从而能够生成更流畅的翻译结果，同时可以进行成分句法分析。

Sep, 2018

该研究介绍了一种名为 DIORA 的深度内外递归自编码器，用于无监督地发现语法结构并学习句子元素表征。通过使用内外动态规划考虑句子上的所有可能的二叉树，DIORA 在两个基准数据集中实现了无监督二元组分析的最新技术及 F1 值，并使用 CKY 算法在测试时提取最高评分的分析树。

Apr, 2019

本文提出了一种基于端到端框架的半监督深度学习（Deep SSL）方法，通过证明伪标签与网络预测之间的关系具有指数联系，为在深度学习范式中使用预测作为伪标签提供了理论支持；本文进一步证明了通过网络预测更新伪标签会使它们变得不确定，为此提出了一种名为 “重复预测” 的训练策略。 最后，在大规模 ImageNet 数据集上测试了所提出的 R2-D2 方法，并优于现有技术方法 5 个百分点。

Feb, 2022

该研究提出了一种新的递归卷积神经网络（RCNN）体系结构，用于在依存树中建模节点，并在依存分析结果上取得了很好的效果。

May, 2015

本研究提出一种基于 GPU 加速的 CKY 解码方法，利用句法规则进行约束，能够有效地进行神经成分分析。在实验中，本方法相比之前的方法有了显著的提高，特别是在交叉领域效果显著，达到了较高的分数。

Dec, 2022

本文提出一种基于自上而下的神经网络结构，将话语的分层结构解析为分裂点排序任务，并在英文 RST-DT 语料库和中文 CDTB 语料库上进行实验，证明了该方法在文本级语篇分析中的高效性。

May, 2020

本文提出了一种新型的神经语言模型 Parsing-Reading-Predict Networks（PRPN），利用其特定的神经网络结构能够自动识别未标注的句子的句法结构，并利用它来学习更好的语言模型。实验证明，该模型能够发现底层的句法结构，并在单词 / 字符水平的语言模型任务上取得了最先进水平。

Nov, 2017

本文提出基于互信息和重构误差两种方法来测量输入词语的难度和估计相应的自适应深度，从而摆脱判停单元，并提高深度自适应模型的速度和稳定性。实验证明，该方法能够在保持高准确性的同时，加快原始 Transformer 速度（高达 7 倍），并提高效率和鲁棒性，相对于其他深度自适应方法具有显著优势。

Apr, 2020