May, 2020

从 SPMRL 到 NMRL：在十年解析形态丰富的语言（MRLs）中我们学到了什么（又忘记了什么）？

PDF
TL;DR该研究回顾了过去十年在 SPMRL 框架下解析富形态语言的建模、词汇和架构方面所遇到的挑战，并提出将 SPMRL 的符号思想引入现代神经结构设计的思路，从而推动 NMRL（神经模型富形态语言）研究进入新的领域，同时展示了在希伯来语的多标记任务中设计神经模型的初步支持。
发现论文，激发创造
  • 一个真正的联合神经结构用于分割和解析

    通过提供一种基于格点的表示，能够同时解决词法分割和句法分析任务的联合神经体系结构，在希伯来语等具有高度复杂性和模棱两可性的多词类语言上取得了最先进的性能。

    Feb, 2024

  • 少量预训练大有裨益：针对低资源词形丰富语言的依存句法分析任务案例研究

    本研究针对资源匮乏的语言环境下，针对高度分析形态的自然语言（MRLs）的依赖句法分析任务，提出了预训练的简单辅助任务方法，实验结果表明，提出的方法使得在 10 种低资源语言环境下实验得到了稳定的提高

    Feb, 2021

  • 不含涉密术语和不必要解释的无泪 MRL 解析：以希伯来语为例

    在形态丰富的语种中，通过一种新的 “翻转管道” 方法，直接在整个单词单元上进行专家分类器的决策，再综合其预测，从而在希伯来语词性标注和依存句法分析上取得了新的技术水平，并在其他希伯来语自然语言处理任务上接近最新技术水平。

    Mar, 2024

  • 命名实体和形态学的神经建模 (NEMO^2)

    通过调查一个新的 NER 基准，我们研究了现代希伯来语中的 NER。 结果表明，显式建模形态的边界可以提高 NER 性能，而一个新的混合体系结构极大地超越了标准流水线，在这个流水线中形态分解严格先于 NER，为希伯来语 NER 和希伯来语形态分解任务设置了新的性能基准。

    Jul, 2020

  • 中文语义角色标注的句法感知多任务学习框架

    本文介绍了基于统一覆盖模型的跨度和基于单词的语义角色标注，并提出了一种多任务学习框架，其中包括基本 SRL 模块和依赖性解析器模块，通过该框架，我们使用外部句法表示得到了新的最先进的中文 SRL 良好结果。

    Nov, 2019

  • 明确的形态学知识对希伯来语语言模型预训练有所改善

    将显式的形态学知识引入预训练阶段可以改善用于形态学丰富语言的预训练语言模型的性能，并且基于形态学驱动的分词方法相比普通的通用语言分词方法在语义和形态任务的基准测试中显示出了改进的结果，这些发现表明将形态学知识整合进预训练语言模型中具有进一步提高形态学丰富语言性能的潜力。

    Nov, 2023

  • 面向语法的多语言语义角色标注

    本研究关注于多语言语义角色标注（SRL）模型的开发，并围绕句法规则、上下文化词表示等因素展开了研究，提出了一种基于句法规则的剪枝方法，并在 CoNLL-2009 的七种语言基准测试中实现了状态 - of-the-art 的效果，并验证了深度增强表示对多语言 SRL 的有效性。

    Sep, 2019

  • 语法感知的神经语义角色标注

    本文探讨是否在神经网络中使用额外的句法特征表示对语义角色标注（SRL）有益，实验结果表明这有助于提高 SRL 的性能，并且在 CoNLL-2005 数据集上达到了新的最先进水平。

    Jul, 2019

  • 多语言解析与生成的预训练语义模型

    本文介绍了基于话语表示结构的多语言预训练语言含义模型，在预训练阶段包括语义表示，并采用交叉语言迁移学习，以进一步提高非英语任务的性能。实验结果显示，该方法在多语言 DRS 解析和 DRS 到文本生成任务上实现了最佳性能。

    May, 2023

  • 鲁棒的增量神经语义图解析

    该研究提出了一个基于神经编码器 - 解码器的转移句法分析器，可以作为关于最小递归语义的完全覆盖的语义图分析器，预测图与非词汇化谓词及其标记对齐共同。该分析器比注意力模型基准更准确，并且在 GPU 批处理方面比高精度基于语法的分析器快一个数量级。此外，我们的最小递归语义分析器的 86.69％ Smatch 得分高于 AMR 分析的上限，这使得 MRS 成为有吸引力的语义表示选择。

    Apr, 2017