May, 2023

探索词嵌入偏移聚类在关系分类中的应用

PDF
TL;DR本研究探讨了一种使用不同的聚合策略将单词向量之间的关系表示为向量的方法，并使用聚类模型来分析它们的正确匹配性。实验结果表明，减法聚合策略配合基于中心点的聚类机制在性能上表现更好，该研究旨在为基于词嵌入的无监督方法提供一个识别成对词汇之间关系的方向。
vector representationword embeddingnatural language processingpooling strategiesclustering models
发现论文，激发创造
  • 将语义关系嵌入到词表示中

    通过提取语料库中词汇的共现模式来实现无监督学习，学习不仅代表个体单词的表示，还明确捕捉代表单词间语义关联的词向量表示，并通过联合权重和二元分类器来描述单词间的语义关系，取得了普遍类比检测三个基准数据集中的显著性优势。

    May, 2015

  • 面向任务的词向量学习用于语义关系分类

    本文介绍了一种新颖的学习方法，用于关系分类的单词嵌入训练，并使用无标注语料库上的词汇关系特定特征预测名词对之间的单词，以将关系特定信息显式地纳入单词嵌入中。通过使用所学习的单词嵌入来构建特征向量，用于关系分类模型。在一个基于语义关系分类任务中，我们的方法表现显著优于基于之前介绍的单词嵌入方法的基准线，并与使用句法信息或手动构造的外部资源的先前最先进的模型相比，表现出了比较良好的结果。

    Feb, 2015

  • 关系词嵌入

    本文中，我们提出了一种用于编码关系性知识的词嵌入方法，其旨在为已有的标准词嵌入方法提供一种补充。通过从共现统计数据中学习出这种关系性词向量，我们发现它确实捕捉到了非常有用的补充信息。

    Jun, 2019

  • 探索词语和关系的理论表示

    该研究提出了一种理论方法，将词嵌入和知识图谱中的实体及其关系的几何形状联系起来，以便更好地理解它们的语义结构和性能。

    Feb, 2022

  • 从图像到文本分类：一种基于聚类词嵌入的新方法

    本文提出了一种基于聚类词向量的文本分类方法，使用 K 均值算法构建超级词向量表征，建立特定于类别的词汇表以提高性能，在主题分类和极性分类任务中表现优异。

    Jul, 2017

  • 使用词向量差异评估词汇关系学习的功用: Take、Took、Gaggle、Goose、Book、Read

    本文研究了基于预训练词嵌入的简单向量减法在捕捉不同词汇关系方面的效能，通过对比不同的学习方式和词汇关系类型，发现在适当的监督学习下，向量减法具有很好的泛化性能。

    Sep, 2015

  • 将相关文档纳入 word2vec 中

    本文针对词嵌入模型在信息检索任务中存在的问题及其局限性，提出了一种基于 word2vec Skip-Gram 模型的神经网络模型，通过显式向量表示的方式，增加了模型的可解释性和准确性，实现了查询词汇的局部信息融合，提高了指定任务状态下的表现表现。

    Jul, 2017

  • 词向量集之间的相关性

    研究表明，基于单词嵌入的相似性度量方法在无监督语义文本相似性（STS）任务中正在与更复杂的深度学习和专家设计的系统轻松竞争。通过将一个单词嵌入视为标量随机变量的例如 300 个观测值，我们避免了传统的几何方法，使用于基本汇集运算和经典相关系数得到的相似性效果很好，胜过许多最近的方法，同时速度更快且实现容易。此外，研究认为通过重新生成核希尔伯特空间之间的相关算子，可以避免汇集运算并直接比较词嵌入集。正如余弦相似性用于比较单个单词向量一样，我们介绍了中心核对齐（CKA）的一种新颖应用，作为平方余弦相似性的集合的自然推广。同样，CKA 非常易于实现，并享有非常强的实证结果。

    Oct, 2019

  • 模糊聚类中的词向量和有效性指标

    本研究使用模糊聚类方法和进化算法优化实现的模糊聚类方法介绍，通过应用基于计数的单词嵌入在 covid 数据集上，研究表明模糊聚类算法对高维数据非常敏感且参数调整会大大改变其性能，我们通过比较不同算法变体的不同嵌入精度来评估实验结果。

    Apr, 2022

  • 现有词嵌入方法的全面实证评估

    本文通过对现有单词嵌入方法的特点和分类任务的分析，将单词嵌入方法划分为传统方法和基于神经网络的方法，揭示基于神经网络的单词表示方法相比于传统方法更能捕捉语言的语义和句法规律。实验验证了不同方法的性能差异。

    Mar, 2023