Nov, 2023

系统性词义扩展

PDF
TL;DR通过引入一种名为系统性词义延伸的新任务（SWORME），我们发现语言模型更倾向于对词义进行渐进性的词汇语义变化，特别是逻辑转喻，但在预测高度非字面意义延伸（如隐喻）方面表现较差。我们提出了一种基于类比的词义扩展方法，并证明它在使语言模型对渐进性和根本性的词义延伸更具系统性方面发挥了有效作用。此外，我们进一步证明，学习系统性的词义延伸有助于语言模型在多个象征语言理解基准上的表现。
polysemous wordsautomated processingnon-literal language usesword meaning extensionfigurative language understanding
发现论文，激发创造
  • 词义拓展

    本研究提出了一种单词意义的扩展范式，以启发式的方法解决了在语言处理中单词意义消岐的限制，展示了一种基于链式认知模型和语言模型嵌入空间的学习算法，该算法可以有效地扩展英语单词的新意义，同时提高了对训练数据中罕见单词通常使用的 WSD 模型的预测准确率。

    Jun, 2023

  • 通过语境化语言模型诱导概念：从词义到更多

    通过本文，我们引入了概念归纳这个非监督任务，从数据中学习一组定义概念的词语软聚类，该任务概括了词义归纳的任务。我们提出了一种双层方法来进行概念归纳，充分利用了本地词元为中心和全局跨词库视角来引导概念的生成。我们在 SemCor 的注释数据上评估所得到的聚类，并获得了良好的性能（BCubed F1 大于 0.60）。我们发现在我们的设置中，本地和全局层次相互有益于概念和词义的生成。最后，我们创建了表示我们引入的概念的静态嵌入，并在上下文任务中使用它们，取得了与现有技术相媲美的性能。

    Jun, 2024

  • 使用 SememeWSD 和同义词集进行中文词义嵌入

    本文提出 SememeWSD Synonym（SWSDS）模型，通过使用 OpenHowNet 中的同义词集和词义消歧（WSD）来为多义词的每个意义指定不同的向量，验证结果表明与 Gensim 的 wmdistance 方法相比，SWSDS 模型提高了语义相似性的准确性。

    Jun, 2022

  • 上下文诱导的词嵌入编码人类词义知识的方面

    本文探讨了自然语言处理中的一项工作，基于 BERT 嵌入空间来评估英语单词的多义和同音词意义之间的相关性。发现使用 BERT 嵌入模型能够在意义表示上更加清晰地捕捉多义性和同音词意的潜在结构，具有潜在的应用价值。

    Oct, 2020

  • PolyLM: 通过语言模型学习多义词

    PolyLM 是一种基于语言建模的词义嵌入方法，能够融合上下文化嵌入技术，通过对词义的建模及概率计算实现更加准确的词义感知，在词义感知任务上性能优于先前的方法，且只有现有方法参数数量的六分之一。

    Jan, 2021

  • 生成词义表示的简单高效方法

    本文介绍了一种简单的模型，它可以代表多义词的不同含义，有效地区分单词的语义，并保证计算效率。

    Dec, 2014

  • 通过上下位关系提高神经词义消歧的覆盖率和泛化能力

    本文提出了一种新方法解决词义消歧中受语料库覆盖率和效率限制的问题，利用 WordNet 中的知识以及 Synsets 之间的上下位关系来减少所需的不同词义标记的数量，从而在大多数 WSD 评估任务上实现最先进的结果，在不使用附加训练数据的情况下提高督导系统的覆盖范围、减少训练时间和模型的大小，此方法结合集成技术和 WordNet Gloss Tagged 作为训练语料时可以得到显着的超越当前最先进状态的结果。

    Nov, 2018

  • 词汇歧义检测与词义消歧综述

    该研究论文探讨自然语言处理领域中关于理解和解决语言中的歧义的技术，强调了多义性和同音异义性等语言现象的复杂性，以及它们对计算模型的影响。论文详细介绍了从深度学习技术到利用词汇资源和知识图谱（如 WordNet）的各种方法，重点研究了词义消歧（Word Sense Disambiguation）。它引入了词义扩展（word sense extension）和神经肌阵挛方法等最新方法，通过预测新的词义来提高消歧准确性。论文还讨论了生物医学消歧和语言特定优化等具体应用，并讨论了认知隐喻在话语分析中的重要性。研究还确定了该领域存在的持续挑战，例如词义注释语料库的稀缺性和非正式临床文本的复杂性。最后，论文提出了未来的研究方向，包括使用大型语言模型、视觉词义消歧和多语言词义消歧系统，强调了在处理自然语言处理中的词汇复杂性方面的持续演进。该研究论文突显了这一领域在使计算机更准确地理解语言方面的进展。

    Mar, 2024

  • ChainNet: WordNet 中的结构化隐喻和转喻性

    使用 ChainNet 这一词汇资源，该研究首次明确地识别了一个词的意义结构，并表明了 Open English Wordnet 中的名词意义是如何通过隐喻、转喻以及同音异义词进行联系的，从而创造了第一个基于隐喻与转喻的数据集。

    Mar, 2024

  • 词义感知词向量学习

    本文提出一种基于 sense embeddings 方法的词义感知 (word sense induction) 算法，通过 Sense 聚类和 Contextual 向量来辨别多义词的词义，相对于传统基于分布式模型的方法，我们的算法可以更好地处理语义相似性，通过对 SemEval-2010 数据进行的实验表明，本算法的效果优于所有参赛者及最近的大部分最新方法。

    Jun, 2016