COLINGNov, 2016

使用多语言数据的半监督介词语义消歧

PDF
TL;DR本研究采用半监督方法来增强介词意义的自动消歧功能。通过在未标注的多语数据上进行预训练，利用一个 LSTM 编码器来预测介词的翻译，然后在一个监督分类系统中将其作为组成部分进行微调，结果表明这种多语信号能够显著提高两个介词意义数据集的结果表现。
prepositionsense disambiguationmultilingual datalstm encodersupervised classification system
发现论文，激发创造
  • 英语介词和所有格的全面超感知消歧

    为了解决语义关系的歧义和语料中多义词的问题，我们引入了一种新的英语介词和所有格标记消歧的注释方案，并采用了广泛适用的 “超感分类” 而非细粒度字典定义方式来对介词和所有格进行注释，并结合谓词或场景上下文中标记的词汇贡献和角色，用相同的类别描述了介词和所有格。强的互评一致性和鼓励的解消歧方法的结果说明了该方案和任务的可行性。

    May, 2018

  • 统一语义表示的多语言词义消歧

    本文提出了一种基于多语言词典建立知识和监督为基础的多语言词义消歧（MWSD）系统的方法，利用统一的语义表示，将多种语言的注释进行共同训练以解决 MWSD 的注释稀缺问题，并在 SemEval-13 和 SemEval-15 数据集上展示了该方法的有效性。

    Oct, 2022

  • 跨语言视觉动词义消歧

    本文介绍了一项较为具有挑战性的任务，即跨语言动词语义消歧，并提出了包含 9504 张图像的 MultiSense 数据集，该数据集标注有英语、德语和西班牙语动词。我们证明跨语言动词语义消歧模型在视觉背景下比单模基线表现更好，并且我们的最佳消歧模型所预测的动词意义在多模转换任务中可用于对纯文本机器翻译系统的改进。

    Apr, 2019

  • 双向语言模型的半监督序列标注

    本文探讨了一种半监督的方法，通过添加双向语言模型的预训练上下文嵌入到 NLP 系统中用于序列标注任务，相比其他转移学习或添加标记数据和任务特定词典的方法，在命名实体识别和块分割等任务上实现了最先进的结果。

    Apr, 2017

  • 利用大量弱监督数据进行多语言情感分类

    本文提出了一种新的多语言情感分类方法，使用了大量的弱监督数据训练多层卷积网络，通过在多种语言数据集上进行充分的评估，证明该方法的优异性能，达到了同类研究的最高水平。

    Mar, 2017

  • 使用仅词嵌入的方法对 158 种语言进行词义消歧

    本研究提出了一种基于预训练的词嵌入，利用完全无监督和无基于知识的方法诱导一个完整的词义库，并实现对 158 种语言中的单词进行上下文消歧，对于资源匮乏的语言特别有用。

    Mar, 2020

  • 无监督多语言句子嵌入用于平行语料挖掘

    本研究提出了一种新的无监督方法，通过使用单语数据来获得跨语言句子嵌入，产生了合成平行语料库，使用预训练的跨语言掩码语言模型（XLM）对其进行微调以得到多语言句子表示，并在两个平行语料库挖掘任务上评估了表示的质量，结果表明，这种方法可以比基准 XLM 模型获得高达 22 个 F1 点的改进。此外，我们还观察到，单个合成的双语语料库能够改善其他语言对的结果。

    May, 2021

  • 以词义进行编码切换的神经网络机器翻译预训练

    我们介绍了一种使用知识库中词义特定信息进行预训练的多语言神经机器翻译模型的端到端方法，通过实验证明了我们方法在整体翻译质量上有显著改进，并且在 DiBiMT 消歧测试中显示出了精确性改进的鲁棒性。

    Oct, 2023

  • 结合深度生成模型和多语言预训练进行半监督文档分类

    本文结合半监督深度生成模型与多语预训练技术，设计了一套用于文档分类的流程，在多个语种的低资源场景中表现出极强的竞争力，胜过现有最先进的方法。

    Jan, 2021

  • 半监督学习用于双语词典归纳

    无监督和半监督学习方法在词向量、双语词汇归纳以及排名问题方面取得了重要进展。

    Feb, 2024