AAAIFeb, 2022

利用成分句法进行共指消解

PDF
TL;DR通过使用基于图的方法，利用句法结构中的成分结构，包括语法树的长距离依赖和结构信息，实现了较强的代词消解技术。实验结果显示，在 OntoNotes 5.0 基准测试的英语和中文部分中，提出的模型要么超过了强基线要么实现了新的最高水平。
syntax treesconstituent treesanaphora detectiongraph-based methodontonotes 5.0
发现论文，激发创造
  • 从语言模型中归纳语言结构

    该论文研究了从语言模型中以无监督方式生成组成和依赖结构的问题，并通过一系列实验表明了其在语法结构识别方面的可行性和存在的限制。

    Mar, 2024

  • 句法表示有用 [MASK]：递归 LSTMs 中成分和依存结构的影响

    研究基于序列的神经网络与基于树的网络在句法任务上的表现，并比较常见的句法表示方法对句法结构带来的影响，同时发现基于组成结构的网络更具鲁棒性，通过少量构建的数据 fine-tune 可以显着提高序列模型的性能，表明数据增强是为序列模型注入句法偏置的可行替代方案。

    Apr, 2020

  • 使用具有有限词组信息的训练数据进行监督式语法归纳

    本研究旨在提高在训练数据中标注少量标签的情况下诱导策略。我们发现最具信息量的语言成分是树状结构中更高层的节点，通常代表复杂的名词短语和句子从句，这些仅占所有成分的 20％。针对标注数据稀疏（例如仅有高层成分标签）的语法诱导，提出了一种适应策略，可以产生与从完全标注的语料库诱导的语法几乎一样好的语法。我们的结果表明，为了取代人工注释员，部分解析器必须能够自动提取更高层次的成分，而不是基本名词短语。

    May, 1999

  • 利用丰富的句法信息进行图序列模型的语义解析

    本文提出了使用句法图来表示三种句法信息（单词顺序，依赖关系和从属关系）的方法，并使用图到序列模型对句法图进行编码和解码逻辑形式。基准数据集上的实验结果表明，该模型与 Jobs640、ATIS 和 Geo880 的最新研究成果相当。对抗示例上的实验结果表明，通过编码更多的句法信息，该模型的鲁棒性也得到了提高。

    Aug, 2018

  • 神经语言模型中的成分结构探测

    本文研究神经语言模型对句法结构的学习能力，发现预训练的 Transfomer LM 即使在语义有错的情况下仍能准确地代表不同类别的成分，并且语法信息确实被 LM 学习并与语义信息分离。

    Apr, 2022

  • 解析全部：句法和语义、依存关系和跨度

    本研究提出了一种新的基于神经网络的两种表征形式（span 和 dependency）的句法和语义联合模型，该模型有效地整合了句法信息，最大化优化联合目标，试验结果表明语义和句法可以相互促进，以全新的表现水平取得了 Propbank 基准测试集上的最好成绩。

    Aug, 2019

  • 结构化句法树嵌入在机器理解中的应用

    本篇论文提出了一种基于结构嵌入的句法树算法框架 (SEST)，利用句法树结构信息编码为向量表示，以增强机器阅读理解算法的性能。实验结果表明，该模型能够准确地识别句子的句法边界，并比基线算法更准确地提取句法连贯的答案。

    Mar, 2017

  • 语法树能帮助预训练 Transformer 提取信息吗？

    本文研究如何将依存树信息合并到预训练的 Transformer 模型中以提高信息提取任务的性能，在语义角色标注和关系抽取任务上，采用两种相似但不同的模型设计策略，通过实证研究发现这些语法增强的 Transformer 模型的性能提高取决于依存关系解析的质量。

    Aug, 2020

  • 基于依赖的混合树用于语义解析

    本研究提出了一种新的基于依存的混合树模型，将自然语言转换成机器可解释的含义表示，并通过在标准多语言 GeoQuery 数据集上进行的大量实验证明，我们的方法能够在多种语言上实现最先进的性能。

    Sep, 2018

  • 神经成分句法分析的两种本地化模型

    本文研究了两种概念简单的本地神经模型，在成分分析中取得了高度竞争的结果，分别实现了 PTB 和 CTB5.1 中的标记支架 F1 得分为 92.4％和 87.3％。

    Aug, 2018