Sep, 2022

利用句法依存关系和神经嵌入进行同义词检测

PDF
TL;DR本文研究了向量空间模型在自然语言处理领域的一些应用，通过比较不同模型在 TOEFL 同义词检测中的效果，发现在计算分布相似度时，句法依赖可以更好地解释词汇语义，同时将人工语义知识注入到神经嵌入中可以显著提高同义词检测的效果。
vector space modelsyntactic dependenciesdistributional similarityneural embeddingssemantic knowledge
发现论文，激发创造
  • 词汇语义增强的神经词向量

    通过深度度量学习进行后处理可以提高神经语言模型中语义相似度推断的效果，并将层次拟合用于建模 IS-A 层次中的语义相似性细微差别。

    Oct, 2022

  • 用于计算语义相似度的分类和神经嵌入方法的评估

    本论文探讨了计算语义相似度的不同方法，比较了分类和分布式语义相似度的不同特点，提出了类别相似度建模的三种加权因素，发现在不同词频、多义性和相似度强度范围内存在语义相似度计算巨大差距。

    Sep, 2022

  • 分布语义建模：应用本体相关方法来训练词向量空间模型的修订技术

    本文提出了一种基于神经网络的分布式语义建模技术 SPT，通过自然语言文本中的术语自动提取和应用医学或应用于构建术语向量空间模型的基本实体，实现从分布式词表示向分布式术语表示的转换，从而提高传统本体论开发的准确性。

    Mar, 2020

  • 利用蕴涵的分布式语义学学习上下位词的词嵌入

    该研究提出了一种基于向量空间的框架来对词汇包容性建模的分布语义模型，利用伪短语中邻近的两个词向量提出了一种隐向量，并探究了模拟词作为证据或词作为后验分布的优缺点。实验表明，所得到的词嵌入模型优于之前预测词之间下义词关系的最佳结果。

    Oct, 2017

  • 将分布式词汇对比集成到词向量中用于反义词 - 同义词区分

    该论文提出了一种新的向量表示方法，将词汇对比整合到分布式向量中，并加强了确定词语相似度度量的最显著特征。改进后的向量模型明显优于标准模型，并且可以跨词类（形容词，名词，动词）将反义词从同义词中区分开来。此外，该论文还将词汇对比向量整合到跳字模型的目标函数中，改进后的嵌入能够超越现有最先进的模型，在预测 SimLex-999 中的词语相似度和区分反义词和同义词方面表现优异。

    May, 2016

  • 将语义关系嵌入到词表示中

    通过提取语料库中词汇的共现模式来实现无监督学习，学习不仅代表个体单词的表示，还明确捕捉代表单词间语义关联的词向量表示，并通过联合权重和二元分类器来描述单词间的语义关系，取得了普遍类比检测三个基准数据集中的显著性优势。

    May, 2015

  • 针对深度组合模型的语法感知多义词嵌入

    本研究详细介绍了一个基于丰富的单词嵌入的组成分布式框架，旨在促进句子中单词之间的交互，并使用环境中的句法信息来增强向量。研究结果表明，该框架在 MSRPar 任务上取得了具有代表性的结果。

    Aug, 2015

  • 基于依存关系的词向量嵌入的深入研究

    研究了基于依赖关系的单词嵌入对于区分功能和领域相似性、单词相似性排名和两个英文下游任务的影响。结果表明，使用 Universal 和 Stanford 的依赖关系上下文训练的嵌入在不同任务上表现优异，增强的依赖关系通常能提高性能。

    Apr, 2018

  • 学习将单词嵌入上下文以执行句法任务

    我们提出了一种基于标准神经网络架构的简单，高效的令牌嵌入模型，并通过大量未注释的文本学习了令牌嵌入，评估它们作为基于少量注释的数据训练的词性标注器和依存分析器的特征，发现词嵌入在各种上下文窗口和训练集大小下都能一致优于基准预测模型。

    Jun, 2017

  • 利用分布式推断技术提高稀疏词表示的语义组合能力

    本文探索了一种替代方案，该方案涉及使用分布邻域明确推断未观察到的共现词，结果表明，分布推断在几个单词相似性基准测试中提高了稀疏的单词表示，并且我们的模型在可解释性的同时，在形容词 - 名词，名词 - 名词和动词 - 对象组合方面与最新技术保持竞争力。

    Aug, 2016