ACLSep, 2021

探究神经组成句法分析的非局部特征

PDF
TL;DR本文研究将非局部特征注入本地基于跨度的解析器的训练过程中，通过预测组成成分 n-gram 非局部模式并确保非局部模式与本地成分的一致性，结果显示，我们的方法在 PTB 和 CTB 上均优于自我注意解析器，在 PTB 上达到 BERT 的最新性能（95.92 F1），并在 CTB 上获得强大的性能（92.31 F1）。与基线相比，在多语言和零 - shot 跨领域设置中，我们的解析器也实现了更好或具有竞争力的性能。
发现论文，激发创造
  • 神经成分句法分析的两种本地化模型

    本文研究了两种概念简单的本地神经模型，在成分分析中取得了高度竞争的结果，分别实现了 PTB 和 CTB5.1 中的标记支架 F1 得分为 92.4％和 87.3％。

    Aug, 2018

  • 利用跨度注意力机制改进组成结构分析

    本文提出了一种利用跨度注意力和分类跨度注意力的神经图表句法分析方法，通过加入 n-gram 信息，得以更好的建模上下文信息，并在阿拉伯语、中文和英语解析中都取得了最先进的性能。

    Oct, 2020

  • 神经成分句法分析器的研究分析

    研究了现代和经典的组成分析方法的差异，以及神经网络在此领域的应用。高性能的神经模型代表了最新的工作，实验发现该模型隐式编码了过去语法和词汇表明确提供的信息，暗示这种支撑可以被强大的通用神经机制取代。

    Apr, 2018

  • 神经 CRF 解析

    本文利用神经网络方法，结合了准确的 CRF 解析动态规划和丰富的非线性特征，提出了一种解析模型。该模型结构上基于 CRF，以锚定规则制作因素，而不是使用基于稀疏特征的线性势函数，使用前馈神经网络计算非线性势函数。在 Penn Treebank 第 23 节上，我们的系统优于先前最佳单个解析器结果，F1 分数达到 91.1。

    Jul, 2015

  • 神经成分句法分析器的跨域泛化

    使用神经解析器和结构化输出预测来实现在零 - shot 设置下对其他领域进行泛化的研究，并在英语和汉语语料库上获得了最新的解析结果。

    Jul, 2019

  • 一种基于句法跨度的最小神经网络成分句法分析器

    本文介绍了一种基于 label 和 span 独立评分的最小神经模型，并证明了该模型不仅与经典的动态规划技术兼容，而且还支持一种基于递归分割的新颖贪心自顶向下推理算法。经实验证明，两种预测方案竞争力强，并且与得分模型的基本扩展相结合，能够实现 Penn Treebank 的单模型最优性能（91.79 F1），并在法语 Treebank 上获得强大的性能（82.23 F1）。

    May, 2017

  • 快速准确的神经 CRF 短语结构句法分析

    本研究旨在提出一种快速准确的神经 CRF 成分句法分析器，采用内部算法批处理、边界表示和双仿射关注等手段，提高了句法分析的效率和性能，并在三个数据集上达到了最新的最高性能。

    Aug, 2020

  • 使用双向 LSTM 进行最小特征的增量分析

    本研究利用双向 LSTM 句子表示模型以及新颖的转移系统，成功实现了依存句法和短语句法的有监督学习，达到了最先进的效果。

    Jun, 2016

  • 神经预读特征的移进 - 规约成分句法分析

    本文针对移位 - 归约分析的相对弱点，利用双向 LSTM 模型提取向前追望特征，并将结果传递给强大的过渡性成分分析器，提高了 1.3% 在 WSJ 和 2.3% 在 CTB 中的准确性。

    Dec, 2016

  • 自注意力编码器进行的组成成分句法分析

    通过将 LSTM 编码器替换为自注意力机制，能够提高最先进的判别型成分解析器的性能，特别是当用预训练的字词表示时，而且这种方法在 SPMRL 数据集的大部分语言上的性能优于以前的最佳结果。

    May, 2018