ACLApr, 2021

从自然出现的括号结构中学习句法

PDF
TL;DR使用人类的句法直觉构建了一种部分括号感知的结构化斜坡损失，通过训练和应用于自然出现的括号数据，实验表明相较于其他无监督系统，我们的模型更准确地诱导了句法结构。在英语 WSJ 语料库上，我们的模型对于成分分析获得了无标签 F1 得分 68.9。
constituency parsingunsupervised learningnaturally-occurring bracketingsstructured ramp losssyntactic structures
发现论文，激发创造
  • 神经成分句法分析的两种本地化模型

    本文研究了两种概念简单的本地神经模型，在成分分析中取得了高度竞争的结果，分别实现了 PTB 和 CTB5.1 中的标记支架 F1 得分为 92.4％和 87.3％。

    Aug, 2018

  • 通过跨度约束，在远程监督下改进潜在树归纳

    本研究提出了一种使用远程监督形式的跨度约束技术来提高无监督语法分析性能的方法。通过少量跨度约束，可以大大提高无监督分析系统 DIORA 的性能。我们的实验表明，基于实体的跨度约束可以使英语 WSJ Penn Treebank 的组成分析提高超过 5 F1，并将其扩展到任何易于实现跨度约束的领域，同时在生物医学文本方面，该方法的有效性得到了证明。

    Sep, 2021

  • 规则增强的无监督短语结构句法分析

    该研究提出了一种基于语法规则的非监督句法树生成方法，利用了语言的通用语法知识，采用强化学习和自编码器等技术，在 MNLI 和 WSJ 两个基准数据集上实现了最好的结果。

    May, 2021

  • 使用具有有限词组信息的训练数据进行监督式语法归纳

    本研究旨在提高在训练数据中标注少量标签的情况下诱导策略。我们发现最具信息量的语言成分是树状结构中更高层的节点，通常代表复杂的名词短语和句子从句，这些仅占所有成分的 20％。针对标注数据稀疏（例如仅有高层成分标签）的语法诱导，提出了一种适应策略，可以产生与从完全标注的语料库诱导的语法几乎一样好的语法。我们的结果表明，为了取代人工注释员，部分解析器必须能够自动提取更高层次的成分，而不是基本名词短语。

    May, 1999

  • 从语言模型中归纳语言结构

    该论文研究了从语言模型中以无监督方式生成组成和依赖结构的问题，并通过一系列实验表明了其在语法结构识别方面的可行性和存在的限制。

    Mar, 2024

  • 使用远程监督预测句子上文结构：以主题分割为例

    该研究提出了一种利用主题分割技术进行远程监督的方法来解决现代话语解析中由于数据稀缺问题所面临的困境，实验结果表明该方法能够有效地产生准确的树状结构并较之前的方法取得了更高的得分。

    Dec, 2021

  • 有限上下文对成分句法分析的限制

    本文探讨了当前神经语法学习方法对句法结构的表征方式，以及限制神经语法学习方法的表征能力的主要因素，并利用概率上下文无关文法为基础，说明上下文对神经语法学习方法进行语法分析决策时的关键作用。

    Jun, 2021

  • 通过基于实景的学习掌握语言结构

    本文提出了基于语言结构的机器学习任务，并通过三种方案展示了其潜力和可行性，包括通过视觉基现学习语法结构，通过执行感知方法映射句子到语义结构，并通过跨语言词对齐和子结构投影方法改进零样本跨语言依赖分析的性能。

    Jun, 2024

  • 利用成分句法进行共指消解

    通过使用基于图的方法，利用句法结构中的成分结构，包括语法树的长距离依赖和结构信息，实现了较强的代词消解技术。实验结果显示，在 OntoNotes 5.0 基准测试的英语和中文部分中，提出的模型要么超过了强基线要么实现了新的最高水平。

    Feb, 2022

  • 语言理解任务中语言知识融合的经验重访

    在 GLUE 基准测试中，通过使用平凡的图表进行任务处理，可以实现具有竞争力甚至更好的性能，并揭示出增益可能不是明确的语言先验，而是由融合层带来的更多特征交互。因此，我们呼吁注意未来使用平凡的图表作为必要的基线来设计高级知识融合方法。

    Oct, 2022