基于联合 RNN 的贪心分析与词汇组合
本文介绍了一种基于转换的解析器,可以同时生成句法和语义依存关系,使用长短期记忆技术来学习算法状态的表示,并具有线性时间复杂度和特征提取,是目前在同时学习语法和语义的解析模型中性能最优的一种。
Jun, 2016
本文提出了一种基于递归组合的循环神经网络编码器的分析树组合向量表示方法,将其作为贪心自底向上的依赖关系分析器的骨干,无需外部词嵌入,实现了英语和中文的最新精度。
Mar, 2016
提出一种考虑语法标签的递归神经网络 (RvNN) 架构,通过引入结构感知的标签表示,可以控制现有单词级树 LSTM 的组合函数,进而在情感分析和自然语言推理等句子级任务中取得了较优或有竞争力的表现。
Sep, 2018
本文提出了一种 Tag-Guided HyperRecNN/TreeLSTM 模型来解决 Recursive Neural Network 模型在语义组合复杂性上存在的限制问题,并通过实验表明该模型在句子分类任务上表现优异。
Aug, 2018
本文提出了一种新的基于图的方法来进行语义解析,解决了文献中观察到的两个问题:(1) seq2seq 模型无法完成组合泛化任务;(2) 使用短语结构解析器的先前工作无法涵盖树库中观察到的所有语义解析。我们证明了两个优化算法的正确性,用基于约束平滑和条件渐变的方法近似解决这些推断问题。实验证明,我们的方法在 Geoquery、Scan 和 Clevr 上都具有最先进的效果,包括在测试组合泛化的过程中。
Feb, 2023
该研究提出了一种基于转移的依存句法分析器,使用卷积神经网络来从字符中组合单词表示。字符组合模型在解析结合语言方面表现出显著的改进,这些改进甚至比使用额外数据训练的预训练词嵌入模型更好。在 SPMRL 数据集上,与之前最好的贪心解析器相比,我们的系统平均提高了 3%的表现。
May, 2017
本研究提出了一种基于神经网络的语义解析器,它能够对不同的图数据库实现更高的准确性,并通过结合 BERT 嵌入和多任务学习技术进一步提高其准确度,从而在 DM、PAS、PSD、AMR 2015 和 EDS 等多个任务上取得了最新的最优结果。
Jun, 2019
本文提出了一种新型的神经语言模型 Parsing-Reading-Predict Networks(PRPN),利用其特定的神经网络结构能够自动识别未标注的句子的句法结构,并利用它来学习更好的语言模型。实验证明,该模型能够发现底层的句法结构,并在单词 / 字符水平的语言模型任务上取得了最先进水平。
Nov, 2017
该论文介绍了一种利用二进制语法树和 Tree-LSTM 组成的神经网络,可在自然语言图表解析器的帮助下同时优化组成函数和解析器,进而实现无监督的树形 RNN,并在文本蕴涵任务和反向字典任务中表现优越。
May, 2017