ACLOct, 2022

线性化解析在词性标注中的价值 - 然而对错误抱有一些烦恼

PDF
TL;DR研究表明，在深度学习背景下，词性标注对于语法分析的作用有限，唯有当标注准确率非常高或资源非常匮乏时才有所帮助；而对于序列标注分析模型而言，词性标注的影响取决于编码方式等因素，其中基于词性的头选择编码方式仅在标注准确率和资源可用性均很高时表现最佳。
pos tagssyntactic parsingdeep learningsequence labeling parsingtagging accuracy
发现论文，激发创造
  • 标注器无法学习的，解析器最需要的

    通过错误分析神经 UPOS 标签器，我们评估了为什么使用黄金标准标签对于解析性能有很大的积极贡献，而使用预测的 UPOS 标签要么损害性能，要么提供微不足道的改进。我们评估了神经依赖分析器隐含地学习了哪些单词类型，以及这与标记器产生的错误有何关系，以解释使用预测标签对解析器几乎没有影响的原因。同时，我们还对导致标记性能降低的上下文进行了简短分析，然后基于标记器的错误屏蔽了 UPOS 标签，以分离标记器正确分类和错误分类的 UPOS 标签的贡献以及标记错误的影响。

    Apr, 2021

  • 另一个对形态标记的死胡同？扰动输入和解析

    通过对 14 个不同的 UD 文本库进行的对抗实验，本文证明通过对句子中的形态信息进行解析可以修正词性标记中的误差。但是在面对词汇错误时，它们会降低转换和基于图的解析器的性能。

    May, 2023

  • 低资源场景中 PoS 标注器模型的建模

    在资源匮乏的情景下，我们评估了早期学习曲线估计作为选择在非深度学习者应用的最适模型的实用机制，以提高性能并控制成本。使用西伊比利亚 - 罗曼斯语族中的加利西亚语作为案例研究，实验结果与我们的预期一致。

    Feb, 2024

  • 堆栈传播：用于语法的改进表示学习

    使用 POS 标签作为学习表示的正则化器，提出了一种称为 “stack-propagation” 的学习模型，该模型可以应用于依赖分析和标注，其测试结果比最先进的基于图形的方法更加准确。

    Mar, 2016

  • 面向特定领域的词性标注快速适应

    本文介绍了一种快速适应新域的 POS 标注器的方法，该方法利用大量文本中收集的后缀信息和字形信息以增加词汇覆盖率，在生物领域的实验中表现出了与该领域中特别训练的 POS 标注器相当的结果。

    Oct, 2014

  • 预训练词向量、字符模型和词性标注在依存句法分析中的相互作用研究

    本文通过对预训练词向量、字符模型和 POS 标签在基于转移的依赖分析器中的相互作用进行综合分析，认为它们之间存在复杂的相互作用，并且在分别应用它们时，均较使用随机初始化的词向量的基线系统都有了大幅度的改进，但组合它们很快就会显得变得没有预期的好，特别是在具有丰富形态的低频开放类词汇和有歧义性的高频功能词之间，将它们灵活组合使用可以得到同样的结果，同时对于具有小字符集的语言，尤其是对于形态丰富的语言，大的字符嵌入大小也有助于提高依赖分析的品质

    Aug, 2018

  • 基于转移的神经网络联合词性标注和依存句法分析

    本文提出了使用基于转移的神经网络联合进行词性标注和依存分析的方法，实现了标签冲突、移位 / 归约冲突和标记冲突的解决。实验表明，我们的方法在各种自然语言的联合词性标注和依存分析方面明显优于之前的方法。

    Apr, 2017

  • 基于图的多语言标签传播在低资源词性标注中的应用

    本文提出了一种将标签从多种高 - 低资源语言进行传递的图形标签传递方法，可与增强的情境化嵌入相结合，实现了无监督标注低资源语言中词性标注的最新技术水平。

    Oct, 2022

  • 基于神经网络的端到端图形式 TAG 解析

    本文介绍了基于图形的 Tree Adjoining Grammar (TAG) 解析器，并使用 BiLSTMs、Highway 连接和字符级 CNNs 来实现，该解析器在全局推理和特征表示方面具有先进性，在短语结构随从词性标注和解析方面性能显著优于以往的结果，并且在解析评估和无界依赖恢复方面实现了最先进的性能。

    Apr, 2018

  • 改进的维特比算法用于情感分析的语法检测

    本文介绍语法检测，标记每个句子的单词的词类（如名词，动词，形容词，副词等），并使用 Viterbi 算法、隐马尔可夫模型和基于约束的 Viterbi 算法进行情感分析来确定句子的字符，以帮助我们了解特定主题的公众情绪。

    May, 2022