MMMar, 2020

分布语义建模：应用本体相关方法来训练词向量空间模型的修订技术

PDF
TL;DR本文提出了一种基于神经网络的分布式语义建模技术 SPT，通过自然语言文本中的术语自动提取和应用医学或应用于构建术语向量空间模型的基本实体，实现从分布式词表示向分布式术语表示的转换，从而提高传统本体论开发的准确性。
发现论文，激发创造
  • 分布语义的向量空间用于蕴涵

    本文提出了一个基于向量空间的模型，通过平均场近似，发展了逼近推理程序和蕴涵操作，用于重新解释现有的分布式语义模型（Word2Vec），以近似预测词汇蕴涵关系，通过无监督和半监督实验，在下义词检测方面取得了显著的改进。

    Jul, 2016

  • 功能分布语义学

    本文提出一种新的基于概率框架、结合形式语义和机器学习的方法，通过将谓词与其所指实体分开，利用贝叶斯推断来对逻辑形式进行推理，在使用受限玻尔兹曼机和前馈神经网络的组合实现这一框架之后，最终证明了该方法的可行性。

    Jun, 2016

  • 词汇语义增强的神经词向量

    通过深度度量学习进行后处理可以提高神经语言模型中语义相似度推断的效果，并将层次拟合用于建模 IS-A 层次中的语义相似性细微差别。

    Oct, 2022

  • 三代分布语义模型的比较评估与分析

    本研究旨在对传统计数模型、预测模型与现代上下文向量模型（由 Transformer 神经语言模型生成）进行遵循语境学习的分布式语义模型（DSM）评估，结果显示在大多数上下文之外的语义任务和数据集中，静态 DSM 优于上下文化代表性，并揭示了 DSM 之间的不同之处，这些不同涉及词汇项的频率和词性，为调查分布式模型生成的语义空间提供了方法。

    May, 2021

  • 利用蕴涵的分布式语义学学习上下位词的词嵌入

    该研究提出了一种基于向量空间的框架来对词汇包容性建模的分布语义模型，利用伪短语中邻近的两个词向量提出了一种隐向量，并探究了模拟词作为证据或词作为后验分布的优缺点。实验表明，所得到的词嵌入模型优于之前预测词之间下义词关系的最佳结果。

    Oct, 2017

  • 利用分布式推断技术提高稀疏词表示的语义组合能力

    本文探索了一种替代方案，该方案涉及使用分布邻域明确推断未观察到的共现词，结果表明，分布推断在几个单词相似性基准测试中提高了稀疏的单词表示，并且我们的模型在可解释性的同时，在形容词 - 名词，名词 - 名词和动词 - 对象组合方面与最新技术保持竞争力。

    Aug, 2016

  • 无监督映射实现跨主题分布语义表示

    本文提出了一种基于不同主题学习单词的多个分布式表示的分布式语义模型，该模型通过不同主题训练不同的 DSM，然后将每个基于主题的 DSM 对齐到一个公共向量空间，实现了最先进的上下文词语相似性任务，并且在 NLP 下游任务中表现出比单一原型模型更好的性能。

    Apr, 2019

  • 基于实践学习的组合向量语义

    提出了一种在脉冲神经网络结构中实现复合分布语义、解决概念绑定问题的方法，利用标记图像进行词向量训练。

    Jan, 2024

  • 利用句法依存关系和神经嵌入进行同义词检测

    本文研究了向量空间模型在自然语言处理领域的一些应用，通过比较不同模型在 TOEFL 同义词检测中的效果，发现在计算分布相似度时，句法依赖可以更好地解释词汇语义，同时将人工语义知识注入到神经嵌入中可以显著提高同义词检测的效果。

    Sep, 2022

  • 组合式分布式语义的多语言模型

    通过基于多语种数据和联合嵌入的分布式假设扩展学习语义表示的新技术，学习出在跨语言上语义等价的句子之间高度对齐而在不相似的句子之间保持足够距离的表示。此方法不仅适用于单词层面，还可以对文档进行语义层面的表示学习。在两个跨语言文档分类任务上，我们的模型都能胜过之前的最佳成果，并通过定性分析和枢轴效应研究证明了我们学习到的语义表示合理且能够捕捉跨语言语义关系。

    Apr, 2014