ACLApr, 2021

标注器无法学习的，解析器最需要的

PDF
TL;DR通过错误分析神经 UPOS 标签器，我们评估了为什么使用黄金标准标签对于解析性能有很大的积极贡献，而使用预测的 UPOS 标签要么损害性能，要么提供微不足道的改进。我们评估了神经依赖分析器隐含地学习了哪些单词类型，以及这与标记器产生的错误有何关系，以解释使用预测标签对解析器几乎没有影响的原因。同时，我们还对导致标记性能降低的上下文进行了简短分析，然后基于标记器的错误屏蔽了 UPOS 标签，以分离标记器正确分类和错误分类的 UPOS 标签的贡献以及标记错误的影响。
发现论文，激发创造
  • 线性化解析在词性标注中的价值 - 然而对错误抱有一些烦恼

    研究表明，在深度学习背景下，词性标注对于语法分析的作用有限，唯有当标注准确率非常高或资源非常匮乏时才有所帮助；而对于序列标注分析模型而言，词性标注的影响取决于编码方式等因素，其中基于词性的头选择编码方式仅在标注准确率和资源可用性均很高时表现最佳。

    Oct, 2022

  • 另一个对形态标记的死胡同？扰动输入和解析

    通过对 14 个不同的 UD 文本库进行的对抗实验，本文证明通过对句子中的形态信息进行解析可以修正词性标记中的误差。但是在面对词汇错误时，它们会降低转换和基于图的解析器的性能。

    May, 2023

  • 弱监督的词性标注器在真正的低资源语言上表现不佳

    该研究使用弱监督方法训练 15 种低资源语言的最新 POS 标注器，并发现即使使用现有最佳技术，在真正的低资源语言中，该标注器仅能正确标注不到一半的单词。因此，这篇研究突出了需要新的和不同的 POS 标注方法来适应低资源语言的需求。

    Apr, 2020

  • 基于转移的神经网络联合词性标注和依存句法分析

    本文提出了使用基于转移的神经网络联合进行词性标注和依存分析的方法，实现了标签冲突、移位 / 归约冲突和标记冲突的解决。实验表明，我们的方法在各种自然语言的联合词性标注和依存分析方面明显优于之前的方法。

    Apr, 2017

  • 预训练词向量、字符模型和词性标注在依存句法分析中的相互作用研究

    本文通过对预训练词向量、字符模型和 POS 标签在基于转移的依赖分析器中的相互作用进行综合分析，认为它们之间存在复杂的相互作用，并且在分别应用它们时，均较使用随机初始化的词向量的基线系统都有了大幅度的改进，但组合它们很快就会显得变得没有预期的好，特别是在具有丰富形态的低频开放类词汇和有歧义性的高频功能词之间，将它们灵活组合使用可以得到同样的结果，同时对于具有小字符集的语言，尤其是对于形态丰富的语言，大的字符嵌入大小也有助于提高依赖分析的品质

    Aug, 2018

  • 堆栈传播：用于语法的改进表示学习

    使用 POS 标签作为学习表示的正则化器，提出了一种称为 “stack-propagation” 的学习模型，该模型可以应用于依赖分析和标注，其测试结果比最先进的基于图形的方法更加准确。

    Mar, 2016

  • 面向特定领域的词性标注快速适应

    本文介绍了一种快速适应新域的 POS 标注器的方法，该方法利用大量文本中收集的后缀信息和字形信息以增加词汇覆盖率，在生物领域的实验中表现出了与该领域中特别训练的 POS 标注器相当的结果。

    Oct, 2014

  • 从语义标记中我们能学到什么？

    本研究探索使用多任务学习的效果，其中将语义标注作为三种不同自然语言处理任务（词性标注，通用依赖解析和自然语言推理）的辅助任务。相比于全神经网络共享和部分神经网络共享，我们发现 “学习共享什么” 的环境中表现良好，特别是在所有任务中表现出一致的增益。

    Aug, 2018

  • 句法依赖注释差异的自动更正

    本文提出了一种用于自动检测依赖解析语料库中注释不匹配的方法，以及三种自动转换注释不匹配的方法，并通过重新训练两种依赖解析器的实验证明应用这些方法可以明显地提高性能。

    Jan, 2022

  • 越南语词性标注器的实验研究

    本研究中，我们使用了 ClearNLP 和 Stanford POS Tagger 这两个广泛使用的工具包，并开发了两个新的越南语 POS 标记器，然后将它们与三个众所周知的越南标记器 JVnTagger、vnTagger 和 RDRPOSTagger 进行比较。通过系统比较，我们发现，利用新特征集构建的越南语标记器可以在标记准确性方面胜过所有其他现有的越南标记器。此外，研究结果还表明，基于转换的标记器 RDRPOSTagger 的运行速度明显快于任何其他统计标记器。

    Jun, 2022