神经组合成分解析

ACLJun, 2021

Neural Combinatory Constituency Parsing

Zhousi Chen, Longtu Zhang, Aizhan Imankulova, Mamoru Komachi

TL;DR该研究提出了两个快速神经组合模型，用于句法分析，分别是二元模型和多分支模型，它们的理论复杂度是次二次的，实际复杂度较低，其中二元模型在 Penn Treebank 上取得了 92.54 的 F1 分数，并以 1327.2 个句子 / 秒的速度进行解析。同时，该模型结合 XLNet，准确率接近英文句法分析的最新水平，并能够观察到 Penn Treebank、Chinese Treebank 和 Keyaki Treebank（日本）在训练和推理过程中的句法倾向和头向性。

Abstract

We propose two fast neural combinatory models for constituency parsing: binary and multi-branching. Our models decompose the bottom-up parsing process into 1) classification of tags, labels, and binary orientatio

neural combinatory models constituency parsing binary model multi-branching model vector composition

发现论文，激发创造

一种基于句法跨度的最小神经网络成分句法分析器

本文介绍了一种基于 label 和 span 独立评分的最小神经模型，并证明了该模型不仅与经典的动态规划技术兼容，而且还支持一种基于递归分割的新颖贪心自顶向下推理算法。经实验证明，两种预测方案竞争力强，并且与得分模型的基本扩展相结合，能够实现 Penn Treebank 的单模型最优性能（91.79 F1），并在法语 Treebank 上获得强大的性能（82.23 F1）。

May, 2017

神经成分句法分析的两种本地化模型

本文研究了两种概念简单的本地神经模型，在成分分析中取得了高度竞争的结果，分别实现了 PTB 和 CTB5.1 中的标记支架 F1 得分为 92.4％和 87.3％。

Aug, 2018

更好、更快、更强的序列标注成分解析器

本文提出一种有效的方法来使 constituent parsing 更加准确，通过学习切换标记方案、降低标签集的稀疏性、并细化多任务学习以减少错误传播，加上辅助损失和策略梯度句子级微调等技术，成功优化了英文和中文 Penn Treebanks 数据集的连续标记 constituent parsers 的性能，并在 SPMRL 数据集上实现了更大的性能提升，包括在巴斯克语、希伯来语、波兰语和瑞典语上建立了新的 state of the art。

Feb, 2019

快速准确的神经 CRF 短语结构句法分析

本研究旨在提出一种快速准确的神经 CRF 成分句法分析器，采用内部算法批处理、边界表示和双仿射关注等手段，提高了句法分析的效率和性能，并在三个数据集上达到了最新的最高性能。

Aug, 2020

指向式高效组成句法分析

我们提出了一种新的成分分析模型，将分析问题转化为一系列指向任务，支持高效的自上而下编码和学习目标。实验表明，我们的方法在不使用预训练模型的情况下取得 92.78 F1 的结果，使用预训练 BERT，达到了 95.48 F1 和最先进的技术水平相当。此外，我们的方法也在多语种成分分析领域实现了最新的技术进展。

Jun, 2020

神经成分句法分析器的研究分析

研究了现代和经典的组成分析方法的差异，以及神经网络在此领域的应用。高性能的神经模型代表了最新的工作，实验发现该模型隐式编码了过去语法和词汇表明确提供的信息，暗示这种支撑可以被强大的通用神经机制取代。

Apr, 2018

四标记：线性时间推断下的词同步解析

提出一种可以将标签分配给句子中每个单词的成分解析算法，该算法使用了当前神经网络结构，可在与现有最先进解析器类似的精确度下实现实质性的速度提升，95.4 F1 测试集结果表明其算法性能优秀。

Apr, 2019

多任务指针网络用于多表现解析

提出了一种基于转换的方法，通过训练单个模型，可以有效地解析任何输入句子，支持连续 / 投影和不连续 / 非投影的句法结构，并证明了这两种句法形式可以在训练过程中互相受益，提高了在多个基准测试中的准确性，如英语和中文 Penn 树库以及德语 NEGRA 和 TIGER 数据集。

Sep, 2020

使用双向 LSTM 进行最小特征的增量分析

本研究利用双向 LSTM 句子表示模型以及新颖的转移系统，成功实现了依存句法和短语句法的有监督学习，达到了最先进的效果。

Jun, 2016

使用循环神经网络和动态规划进行线性时间成分句法分析

提出了一种基于 RNNs 和动态规划的图结构堆叠和波束搜索的线性时间组成成分句法分析器，通过集成立方剪枝，可以将其运行速度进一步提高到 O（n b log b），相对于图表解析基线，此线性时间解析器在长句子上的速度明显更快，对于话语分析来说速度更快，是单模型端到端系统中在 Penn Treebank 上达到的最高 F1 准确度。

May, 2018