- EMNLP重新思考自注意力:朝向神经解析可解释性
本研究提出了标签关注层,一种新的自注意形式,其中关注头表示标签。运行实验并在 Penn Treebank(PTB)和中文 Treebank 上展示出其在词法句法分析方面的最新成果,标签关注层在该实验中表现出了更好的性能,相比现有工作需要较少 - ACLPenn Treebank 上的基于头驱动短语结构语法分析
该论文尝试将组成和依存句法两种形式融合到头驱动短语结构中,提出了两种基于所转换树的解析算法,成功地在 Penn Treebank(PTB)和中文 Penn Treebank 上实现了一种新型联合解码器,达到了本领域最高的解析性能。
- ACL跨表征学习的序列标注解析
本文将解析问题作为多任务学习来探究,通过添加解析范式作为辅助损失,在其他范式表现中保持一致提高性能,探讨了一种 MTL 序列标记模型,以几乎不损失性能和速度的代价解析两个表示,总体结果表明,平均来说,具有属于成分解析的辅助损失的 MTL 模 - ACL自我注意力和预训练的多语言组成句法分析
通过对各种语言和预训练条件进行的实验比较表明,联合无监督预训练和微调是一种有效的方法,可以在各种语言上提高句法分析的性能并实现新的最先进的结果。
- EMNLP基于自顶向下树形解码与句法连接的神经机器翻译与句法分析
本文提出了一种基于 DRNN 的序列到树的 NMT 模型 (称为 Seq2DRNN),该模型在树结构解码中结合了序列编码器和句法感知机制,并使用语法结构信息从而能够生成更流畅的翻译结果,同时可以进行成分句法分析。
- EMNLP神经语言模型语法归纳:一次不寻常的复制实验
该研究针对最近基于潜在树学习的神经网络模型探索,探索在非解析任务下使用解析值潜变量训练模型,用于发现可解释的树形结构,并成功在语言建模和成分句法分析领域展示了潜在树学习的实用性。
- ACL神经句法距离的短语结构句法分析
本课题提出了一种新的句法分析方案,使用语法距离为每个输入句子中的拆分位置预测顺序,以自上而下的方式递归划分输入,相比传统的换卡规约分析方案,本方法不会出现错误累积问题,更易于并行处理,并且在 PTB 数据集中达到了竞争性的单模型判别式解析器 - 使用循环神经网络和动态规划进行线性时间成分句法分析
提出了一种基于 RNNs 和动态规划的图结构堆叠和波束搜索的线性时间组成成分句法分析器,通过集成立方剪枝,可以将其运行速度进一步提高到 O(n b log b),相对于图表解析基线,此线性时间解析器在长句子上的速度明显更快,对于话语分析来说 - ACL神经成分句法分析器的研究分析
研究了现代和经典的组成分析方法的差异,以及神经网络在此领域的应用。高性能的神经模型代表了最新的工作,实验发现该模型隐式编码了过去语法和词汇表明确提供的信息,暗示这种支撑可以被强大的通用神经机制取代。
- EMNLP生成神经语法分析的有效推论
通过改进候选选择和使用粗略的修剪功能,我们描述了一种可行的搜索过程,及其用于 Choe 和 Charniak(2016)模型的推理过程在 Penn Treebank 的 23 节上能够获得 92.56 F1,超过以前的最先进结果。
- ACL通过分离模型组合和重新排序效果来提高神经解析能力
本文提出了一种直接搜索联合生成神经模型的算法,并证明重新评分结果部分是由于隐式模型组合,而不是重新排序效果所致,最后表明显式模型组合可以进一步改善性能,可以在只训练黄金数据时获得 94.25 F1,在使用外部数据时可获得 94.66 F1, - ACL一种基于句法跨度的最小神经网络成分句法分析器
本文介绍了一种基于 label 和 span 独立评分的最小神经模型,并证明了该模型不仅与经典的动态规划技术兼容,而且还支持一种基于递归分割的新颖贪心自顶向下推理算法。经实验证明,两种预测方案竞争力强,并且与得分模型的基本扩展相结合,能够实 - EMNLP基于跨度的成分句法分析:结构标签系统和可证明最优动态预测
通过使用仅包含句子跨度的最小 LSTM 特征表示的新的 shift-reduce 系统以及第一个可以证明最优的动态 Oracle,该算法的时间复杂度是摊销 O(1),相比于标准依赖解析的 O(n ^ 3)Oracle,我们在使用这个 Ora - ACL使用双向 LSTM 进行最小特征的增量分析
本研究利用双向 LSTM 句子表示模型以及新颖的转移系统,成功实现了依存句法和短语句法的有监督学习,达到了最先进的效果。
- 外语语法
采用领域无关的注意力增强序列到序列模型在一大合成语料库的标注基础上取得了最先进的效果,训练小规模人工标注的数据集时也达到了标准解析器的表现,且较大程度上提高了数据利用率和处理速度。