ACLMay, 2022

词语亲密度和企业类型：重新审视 J.R. Firth 和 Zellig Harris 的分布式语义学

PDF
TL;DR本文对比了 J.R. Firth 和 Zellig Harris 的构式语义学理论，指出 Firth 的理论更加文化基础，在 NLP 领域中可通过比较分层和句法扩展的两种不同策略来实现对语境的扩展。
word embeddingsdistributional semanticslinguistic theorycultural contextsemantics
发现论文，激发创造
  • 词汇语义增强的神经词向量

    通过深度度量学习进行后处理可以提高神经语言模型中语义相似度推断的效果，并将层次拟合用于建模 IS-A 层次中的语义相似性细微差别。

    Oct, 2022

  • 使用分布式原理对上下文语言模型进行语义研究

    本文研究了上下文语言模型的语义相似性属性，并利用 SemCor 和 WordNet 方式进行探索。然后，将该方法应用于更开放的环境，以表征静态和上下文语言模型之间的差异。

    Nov, 2021

  • 语义投影：从词嵌入中恢复多个不同物体特征的人类知识

    该研究探讨了一种计算模型，即词嵌入模型，通过将词表示为多维空间中的向量，从词汇共现模式中学习来自语义记忆中的常见知识，并提出了语义投影的解决方案，以检验词嵌入模型是否能够恢复多种语义特征和对象属性的上下文依赖关系。

    Feb, 2018

  • 利用蕴涵的分布式语义学学习上下位词的词嵌入

    该研究提出了一种基于向量空间的框架来对词汇包容性建模的分布语义模型，利用伪短语中邻近的两个词向量提出了一种隐向量，并探究了模拟词作为证据或词作为后验分布的优缺点。实验表明，所得到的词嵌入模型优于之前预测词之间下义词关系的最佳结果。

    Oct, 2017

  • 分布语义学与语言学理论

    该综述文章阐述了分布语义学在理论语言学领域的影响有限，但其成功地捕捉了自然语言诸多意义方面，并回顾了该领域在语义变化、一词多义及组合，以及语法 - 语义接口等领域的研究成果，旨在在理论和计算语言学之间进行更大规模的交叉授粉，以推进我们集体的语言知识。

    May, 2019

  • 分布语义组合性的基于语境理论的框架

    提出了一种自然语言语义框架，使用向量对词语、短语和句子进行表示，基于理论分析，假设意义由语境决定。该方法可以推广向量加法、分量乘法和张量积等现有方法，并使用 lattice 结构描述语义之间的蕴含关系。

    Jan, 2011

  • 分布语义的实用限制约束

    本文研究了语言模型在 Zipf 定律背景下的统计学习限制，表明无论什么标记都会出现 Zipf 的标记分布，标记分布由两个不同频率和语义的标记组成，这些特性干扰了由分布语义驱动的统计学习过程。

    Nov, 2022

  • 针对深度组合模型的语法感知多义词嵌入

    本研究详细介绍了一个基于丰富的单词嵌入的组成分布式框架，旨在促进句子中单词之间的交互，并使用环境中的句法信息来增强向量。研究结果表明，该框架在 MSRPar 任务上取得了具有代表性的结果。

    Aug, 2015

  • BERT 作为一个分布式语义模型的评估

    本文研究了语境化单词嵌入，并集中讨论了 BERT 这一深度神经网络，该网络产生了语境化的单词嵌入并在多个语义任务中创下了最好的记录，并研究了其嵌入空间的语义一致性。该文章表明，BERT 具有一定的语义一致性，但并未完全符合语义向量空间的自然期望，尤其是发现单词出现在的句子位置虽然不具含义，但在单词嵌入中留下了明显的痕迹，破坏了相似性关系。

    Nov, 2019

  • 上下文诱导的词嵌入编码人类词义知识的方面

    本文探讨了自然语言处理中的一项工作，基于 BERT 嵌入空间来评估英语单词的多义和同音词意义之间的相关性。发现使用 BERT 嵌入模型能够在意义表示上更加清晰地捕捉多义性和同音词意的潜在结构，具有潜在的应用价值。

    Oct, 2020