使用均场推理建模标签相关性进行二阶语义依存解析
本文实现了第二阶段语义依赖解析器,使用平均场变分推理或循环置信传播算法来近似第二阶段解析,然后将两种算法展开成神经网络的递归层以进行端到端的训练,实验结果表明我们的方法实现了最新的最佳性能。
Jun, 2019
我们提出了一种新的无监督神经依赖模型的二阶扩展,它可以包含祖父 - 子或兄弟信息,并使用基于一致性的学习框架联合训练一二阶无词汇化模型和一阶词汇化模型,实验表明我们的二阶模型在多个数据集上的效果优于最近的最先进方法,并且我们的联合模型在完整的 WSJ 测试集上取得了 10% 的改进。
Oct, 2020
本文提出了一种使用信息传递和端到端神经网络进行二阶图形神经依赖解析的方法,说明了我们的方法与最近最先进的二阶图形神经依赖解析器的准确度相匹配,并且在训练和测试中速度显著更快。同时,实证表明,相较于一阶解析,二阶解析的优势与使用 BERT 嵌入时的头部选择结构约束的有用性相似。
Oct, 2020
本文介绍了一种基于深度学习的语义依存图形式分析系统,该系统采用效率高且几乎拓扑结构简单的推理方法,通过组合双向 - LSTM 和多层感知机,能够在不使用手工特征或语法的情况下显著提高语义依存分析的技术水平。作者还对多任务学习策略进行了研究,并获得了新的技术成果。
Apr, 2017
该论文提出了一种基于图的解析器系统,并使用二阶推理方法。我们在低资源的泰米尔语语料库中,将泰米尔语的训练数据与其他语言混合使用,显著提高了泰米尔语的性能。尽管我们之前提交了未连接的图,导致在 10 个团队中只排名第六,但我们解决这个问题后,我们的系统比官方排名第一的团队高出 0.6 ELAS。
Jun, 2020
本文介绍了一种基于高阶图结构的神经语义角色标注模型,能够显式地考虑包含谓词参数对之间交互的语义关系,实验结果表明,高阶结构学习技术对于强效的 SRL 模型是有益的,在 CoNLL-2009 基准测试中取得了新的最佳结果。
Oct, 2020
本篇论文中介绍了一种用于词语语义角色标注的简单而准确的神经模型,该模型通过双向 LSTM 编码器的状态预测谓词论元依赖关系,即使没有任何语法信息,仅使用本地推理即可在英语上取得有竞争力的性能,然而,当自动生成词性标注作为输入时,它的性能明显优于所有先前的本地模型,并接近报告的英语 CoNLL-2009 数据集的最佳结果。我们还考虑了中文、捷克语和西班牙语,其中我们的方法也取得了有竞争力的结果。基于语法的解析器在领域外数据上不可靠,因此当在该设置中进行测试时,标准(即语法相关)的 SRL 模型受到了阻碍。我们的基于语法不可知的模型表现更健壮,这在标准的领域外测试集上得到了最佳的报告结果。
Jan, 2017
论文研究了多标签情感识别模型中的标签相关性,并提出了两种建模方法和通过情感表示的成对约束作为正则化项,证明该方法在多种语言环境下具有最先进的性能和更好的稳健性。
Oct, 2022
本论文提出了几个高阶能量项来捕捉序列标记中标签之间的复杂依赖关系,并使用卷积、循环和自我注意网络的神经参数化来处理该方法。我们在学习基于能量的推理网络框架中使用此方法,在四个序列标记任务上实现了高性能,同时具有与简单的本地分类器相同的解码速度,并发现高阶能量在嘈杂的数据条件下的效果更好。
Oct, 2020