Sep, 2023

HPSG 超标记再审视

PDF
TL;DR我们提出了基于 HPSG 的新型超标注模型，通过 SVM 和神经网络方法在高质量标注的树库上进行训练，与基线相比，SVM 和神经超标注模型都取得了明显更高的准确性。我们的 BERT 超标注模型在 WSJ23 数据集和 Cathedral and the Bazaar 数据集上分别达到了 97.26% 和 93.88% 的准确率。因此，将这些新型超标注模型整合到现代 HPSG 解析器中是有意义的，并且希望我们在这里使用的多样而困难的数据集能在该领域中获得更多的关注。我们还提供了完整的数据集，格式化用于标记分类。
supertaggershpsg-based treebankssvmneural crfbert-based methods
发现论文，激发创造
  • COGS 中的结构性泛化：超标记化几乎是你所需的全部

    在许多自然语言处理应用中，神经网络在处理超出分布范围的示例时被发现无法进行泛化。本文通过多种方法对神经图形语义解析框架进行扩展以缓解这个问题，实验结果表明结构性约束对语义解析中的泛化是重要的。

    Oct, 2023

  • 用树形解码复杂类别为长尾标记化

    研究表明，利用类别的内部结构构建模型有助于预测罕见、复杂的 CCG supertags，而且可以在更少的参数下实现先前的最佳标记者的近似标记准确度，并且还探讨了不同方法对域外评估集的概括能力。

    Dec, 2020

  • 使用 Supertags 和语法感知的神经语义角色标注

    本研究提出了一种新的基于依存句法的语义角色标注模型，该模型使用双向 LSTM 模型将超级标记与文本进行标记，然后将这些超级标记以及词和词性信息输入深度双向 LSTM 进行语义角色标注，该模型结合了先前基于完整依存句法解析进行 SRL 和最近使用无句法信息的模型的优点，并在 CoNLL 09 英语和西班牙语数据集上实现了最先进的性能。该论文表明在神经 SRL 系统中，超级标记是一种简单、强大且稳健的将句法信息纳入系统的方式。

    Mar, 2019

  • 为新十年打下基础：使用 BERT 进行序列标注、句法和语义分析

    本研究采用最新的语境化嵌入框架 BERT，为词性标注、句法分析和语义分析三个任务提出了最新的技术模型，并在 12 个英文和中文数据集上进行了实验，结果表明 BERT 模型在这三项任务中均优于当前最佳模型平均 2.5％（最显着的情况下是 7.5％），并提供了关于 BERT 嵌入影响的深入分析。

    Aug, 2019

  • 通过系统组合提高数据驱动的词类标注

    本文研究利用不同数据驱动系统之间的建模差异探讨如何应用投票策略和二级分类器来结合不同系统的输出，以提高词性标注任务的准确性，实验表明各种结合策略的标注器均优于它们的最佳组件，其中最佳组合标注器的错误率比最佳单个标注器低了 19.1%。

    Jul, 1998

  • 利用注意力图卷积网络进行超级标注组合范畴语法

    通过注意力图卷积网络以图形式建模词库中的信息，加强神经组合范畴语法（CCG）超标记，进而提高语法分析的准确性。实验结果表明，该方法在超标记和语法分析方面优于先前所有研究。

    Oct, 2020

  • 使用超标签特征的越南语基于转换的依存分析

    通过利用超标记特征，利用基于转移的依赖句法分析方法来改善依赖分析，并在越南依赖树库上成功提高了正确附着率。

    Nov, 2019

  • 基于神经网络的端到端图形式 TAG 解析

    本文介绍了基于图形的 Tree Adjoining Grammar (TAG) 解析器，并使用 BiLSTMs、Highway 连接和字符级 CNNs 来实现，该解析器在全局推理和特征表示方面具有先进性，在短语结构随从词性标注和解析方面性能显著优于以往的结果，并且在解析评估和无界依赖恢复方面实现了最先进的性能。

    Apr, 2018

  • 具有异构动态卷积的几何感知的超标记化

    本文从图论的角度重新审视结构调整式句法分析，并提出了一个基于异构动态图卷积的框架，以利用补丁标记器输出空间的独特结构。我们在涵盖不同语言和语法形式的分类语法数据集上测试了我们的方法，并获得了显著的改进。

    Mar, 2022

  • Penn Treebank 上的基于头驱动短语结构语法分析

    该论文尝试将组成和依存句法两种形式融合到头驱动短语结构中，提出了两种基于所转换树的解析算法，成功地在 Penn Treebank（PTB）和中文 Penn Treebank 上实现了一种新型联合解码器，达到了本领域最高的解析性能。

    Jul, 2019