通过词义消歧过程实现多义词嵌入

Jan, 2021

通过词义消歧过程实现多义词嵌入

Multi-sense embeddings through a word sense disambiguation process

Terry Ruas, William Grosky, Akiko Aizawa

TL;DR提出了一种名为 Most Suitable Sense Annotation (MSSA) 的新方法，它通过一种无监督技术来标注每个单词的特定含义，并考虑其上下文的语义效应，从而减轻了自然语言理解中多义性和同音异义词的问题，实现了语义表示方面的三个主要贡献，使用六个不同的基准模型进行 word similarity 测试，结果表明该方法能够产生最先进的结果，胜过了几个更复杂的先进系统。

Abstract

natural language understanding has seen an increasing number of publications in the last few years, especially after robust word embeddings models became prominent, when they proved themselves able to capture and

natural language understanding word embeddings semantic representation most suitable sense annotation multi-sense embeddings

发现论文，激发创造

sense2vec - 一种快速准确的神经词嵌入词义消歧方法

本篇论文提出了一种新的方法，基于监督式消歧，为每个单词建立多个嵌入向量，从而针对字面意思和文本语境对不同主题进行消歧，以及在神经依赖分析上具有更好的错误率表现。

Nov, 2015

多义词嵌入是否提高自然语言理解？

本文介绍一种基于中餐馆过程的多义词嵌入模型，测试表明它在人类词语相似度判断方面取得了最先进的性能，并提出了一种管道式架构，用于将多义词嵌入结合到语言理解中，结果表明在某些任务（如词性标注、语义关系识别、语义相关性）中，多义词嵌入确实能够提高性能，但在其他任务（如命名实体识别、各种形式的情感分析）中却没有提高。

Jun, 2015

统一语义表示的多语言词义消歧

本文提出了一种基于多语言词典建立知识和监督为基础的多语言词义消歧（MWSD）系统的方法，利用统一的语义表示，将多种语言的注释进行共同训练以解决 MWSD 的注释稀缺问题，并在 SemEval-13 和 SemEval-15 数据集上展示了该方法的有效性。

Oct, 2022

跨语境多义词上下文词嵌入映射

本文提出两种改进的解决方案，通过将上下文多义词嵌入视为噪声（去除）和通过生成聚类级别的平均锚嵌入以替换上下文多义词嵌入，提高了跨语言语境下上下文词嵌入对齐的微观性能，同时不会损害双语词汇表归纳任务的宏观性能；对于无监督对齐，我们的方法在双语词汇表归纳任务中显著提高了 10 多分。

Sep, 2019

无监督语义嵌入的模块化

本文提出了一种新的用于无监督学习的模块化方法 MUSE，该方法使用灵活的模块来优化词义表示学习和有效的词义选择，并采用强化学习来进行联合训练。实验证明，该方法在同义词选择和语境词相似性方面具有最先进的性能。

Apr, 2017

上下文感知的语义相似度测量用于无监督词义消歧

本研究提出一种新的上下文感知的无监督词义消歧方法，通过将上下文信息纳入相似度量计算过程中，有效地管理文本中的词义模糊，从而提高了词义消歧的准确性并超越了现有的多种技术。

May, 2023

学习多义词嵌入的混合模型

使用混合模型来学习多感知词嵌入，取得了比以前更好的效果。

Jun, 2017

针对深度组合模型的语法感知多义词嵌入

本研究详细介绍了一个基于丰富的单词嵌入的组成分布式框架，旨在促进句子中单词之间的交互，并使用环境中的句法信息来增强向量。研究结果表明，该框架在 MSRPar 任务上取得了具有代表性的结果。

Aug, 2015

使用仅词嵌入的方法对 158 种语言进行词义消歧

本研究提出了一种基于预训练的词嵌入，利用完全无监督和无基于知识的方法诱导一个完整的词义库，并实现对 158 种语言中的单词进行上下文消歧，对于资源匮乏的语言特别有用。

Mar, 2020

联合学习元感嵌入：从预训练静态感觉嵌入中学习

本文提出了第一种元语义嵌入方法 - 近邻保留元语义嵌入，该方法通过组合多个独立训练的源感知嵌入来学习元感知嵌入，从而保留了源嵌入中计算的感知邻域，实验证明该方法在词义消歧和上下文词任务中持续优于竞争基线。

May, 2023