ACLApr, 2021

非参数少样本学习用于词义消歧

PDF
TL;DR本文提出了一种基于 MetricWSD 的非参数的少样本学习方法，通过进行情节性训练，并学习计算给定单词的不同意义之间的距离，将高频词的学习度量空间转移到低频的单词中，从而避免了在自然语言处理中监督式全单词 WSD 的一个重要挑战中的数据不平衡问题。该方法在不依赖任何词汇资源的情况下，能够获得强大的性能，并通过联合 WSD 评估基准实现了 75.1 F1 得分的良好表现。
word sense disambiguationmetricwsdfew-shot learningdata imbalancenatural language processing
发现论文，激发创造
  • 利用变分语义记忆的元学习进行词义消歧

    本文提出一种基于层次变分推理的语义记忆元学习模型，通过超网络的自适应记忆更新规则，大幅提高了少样本情况下的监督词义消歧的性能。

    Jun, 2021

  • 使用主题模型的基于知识的词义消歧

    本研究使用主题模型的形式设计了一种词义消歧系统，使其在上下文单词数线性增长的情况下扩展，该方法在 5 个英语全单词 WSD 数据集上进行的评估表明，其性能优于这一领域的当前最先进无监督知识为基础的 WSD 系统。

    Jan, 2018

  • 学习学习消歧义：用于少样本词义消歧的元学习

    本文提出了一个基于元学习的少样本词义消歧框架，用于从极少数标记实例中学习消除未见过单词的歧义。与传统的 Meta-learning 测试方式不同，本研究还探讨了在应对高度不平衡的多类别问题时，几个流行元学习方法在 WSD 任务中的优缺点。

    Apr, 2020

  • 将弱监督的词义消歧集成到神经机器翻译中

    本研究探讨了利用词义消歧算法扩大上下文范围提高神经机器翻译的效果，通过引入三种自适应聚类算法进行了验证并在 SemEval 数据上进行了评估，随后在一个最先进的 NMT 系统中联合学习单词向量和最佳 WSD 算法定义的词义向量，最终证明这种方法可以优于几个基准模型。

    Oct, 2018

  • 使用仅词嵌入的方法对 158 种语言进行词义消歧

    本研究提出了一种基于预训练的词嵌入，利用完全无监督和无基于知识的方法诱导一个完整的词义库，并实现对 158 种语言中的单词进行上下文消歧，对于资源匮乏的语言特别有用。

    Mar, 2020

  • 统一语义表示的多语言词义消歧

    本文提出了一种基于多语言词典建立知识和监督为基础的多语言词义消歧（MWSD）系统的方法，利用统一的语义表示，将多种语言的注释进行共同训练以解决 MWSD 的注释稀缺问题，并在 SemEval-13 和 SemEval-15 数据集上展示了该方法的有效性。

    Oct, 2022

  • 神经符号飞镖游戏下的词义消歧

    通过神经符号方法在嵌入式感知球的配置和逻辑推理中使得词义消岐的 F1 分数达到 90% 以上，从而突破了利用深度学习方法对词义消岐的准确度的层限。

    Jul, 2023

  • 一种二次 0-1 规划方法用于词义消岐

    本文介绍了一种基于 QIP 模型的词义消歧方法，通过最大化目标函数中词义 - 单词相似性和词义 - 词义关联性来捕获目标词不同词义间的互动，以解决词义相互依赖导致的组合优化问题。

    Jan, 2022

  • 连点成线：通过对齐词义库桥接单词和定义之间的语义关系

    本研究提出了一种采用词义从不同词义库中匹配相同词义的定义句子（术语）的光泽对齐算法，并使用这些对齐的库训练模型以确定目标单词在上下文中的语义等效性，解决了有限的训练数据和集中于 WordNet 等预定义的词义库的问题；实验结果表明，所提出的方法改善了所有词义和低频词义的预测，并优于现有工作。

    Oct, 2021

  • 歧义遇到不确定性：探索词义消歧的不确定性估计

    本文针对单词语义消歧（WSD）问题，对现有的监督学习方法在真实世界场景中处理噪声和分布不均问题时不足的问题进行研究。首先比较了几种不确定性评分方法，然后通过测试场景对数据和模型的不确定性进行分析并探究了对其产生影响的多种词汇属性。

    May, 2023