Mar, 2024

英语和瑞典语中未记录的词义检测

PDF
TL;DR通过使用预训练的上下文词嵌入工具，本文在英语和瑞典语中解决未知意义检测的任务，并通过对现代和历史语料库中的词语用法与语义条目进行比较，证明了模型在少样本情境下能够大幅增加检测到非记录义项的词语用法数目。
unknown sense detectionenglishswedishdictionaryword-in-context embedder
发现论文，激发创造
  • 能否借助词义分布检测词义的语义变化？

    通过比较两个不同时期收集的语料库中目标词义的分布，利用预训练的静态感知嵌入自动标注每个语料库中目标词出现的感知 id，并使用不同的差异或距离度量来量化目标词在两个给定语料库中的语义变化，实验结果在 SemEval 2020 任务 1 数据集上显示出，可以准确地利用词义分布来预测英语、德语、瑞典语和拉丁语中词的语义变化。

    Oct, 2023

  • 使用仅词嵌入的方法对 158 种语言进行词义消歧

    本研究提出了一种基于预训练的词嵌入，利用完全无监督和无基于知识的方法诱导一个完整的词义库，并实现对 158 种语言中的单词进行上下文消歧，对于资源匮乏的语言特别有用。

    Mar, 2020

  • 使用 BERT 知识蒸馏进行词义归纳

    该研究提出了一种两阶段的方法，使用上下文中单词意义的注意力来提取一个单词的多重意义，并将其传递到 skip-gram 模型中，以生成多重意义的嵌入，这比现有技术表现更好，可应用于主题建模。

    Apr, 2023

  • 使用主题模型的基于知识的词义消歧

    本研究使用主题模型的形式设计了一种词义消歧系统，使其在上下文单词数线性增长的情况下扩展，该方法在 5 个英语全单词 WSD 数据集上进行的评估表明，其性能优于这一领域的当前最先进无监督知识为基础的 WSD 系统。

    Jan, 2018

  • 我不相信单词有多个意义

    该论文探讨了词义消歧的问题，提出了一个从语料库引申到词义的抽象概念，根据目的对语料进行聚类，反对一般语义资源对英语 / 法语等的词义描述，强调词义相对于 task 确定。

    Dec, 1997

  • 大规模基于替换的词义归纳

    本文提出一种基于预训练掩码语言模型（MLMs）的词义归纳方法，可以扩展到大词汇和大语料库，其结果是一个按语料库导出的意义清单进行感知标记的语料库，每个意义将与指示性单词相关联，通过在此感知标记语料库上训练静态单词嵌入算法，我们获得了优质的静态感知嵌入。这种数据驱动算法的本质可用于感知特定于语料库的感觉，正如我们在科学领域的案例研究中所证明的那样。

    Oct, 2021

  • 统一语义表示的多语言词义消歧

    本文提出了一种基于多语言词典建立知识和监督为基础的多语言词义消歧（MWSD）系统的方法，利用统一的语义表示，将多种语言的注释进行共同训练以解决 MWSD 的注释稀缺问题，并在 SemEval-13 和 SemEval-15 数据集上展示了该方法的有效性。

    Oct, 2022

  • 不同时间尺度下单词意义变化的自动识别

    本文提出了一种无监督的方法来区分名词的意义变化，并通过数字化书籍中的严格时间变化文本数据构建分布式词库网络，将它们分别聚类以获得与不同时间点对应的以词为中心的意义聚类，这种方法可应用于词汇编纂和语义搜索，并经过人工评估和 WordNet 对比，该算法在 48 个样本和 21 个样本分别中正确识别出 60.4％的新出现情况，57％的分裂 / 合并情况，并有 44％的新意义得到 WordNet 验证。

    May, 2014

  • SenseBERT: 将一些意义驾驭进 BERT

    本文提出了一种名为 SenseBERT 的神经语言模型，通过利用单词意义级别直接进行弱监督，预测掩码单词及其 WordNet 超级意义，达到了词汇语义级别的语言模型，实验结果显示，在 SemEval Word Sense Disambiguation 任务和单词上下文任务中，SenseBERT 取得了显著的改进和最新的成果。

    Aug, 2019

  • 语言模型了解单词义项吗？使用语言模型和领域库进行零样本词义消歧

    本文探讨了语言模型在推理时区分词义的能力，并将词义消歧视为文本蕴含问题，通过领域分类的方式在常用语言模型上进行了实验，结果表明这种方法的效果接近于有监督学习系统。

    Feb, 2023