WSDMOct, 2017

利用自嵌入特征改进单词表示的负采样

PDF
TL;DR本文提出了一种基于多维特征动态选择负采样的算法，以解决在 skip-gram 模型中使用流行度采样器的梯度消失问题，实验证明其在提高效果的同时并不增加计算复杂度。
negative samplerskip-gram modelstochastic gradient descentmulti-dimensional featurescomputational complexity
发现论文，激发创造
  • 负采样增量式 Skip-gram 模型

    本文从经验和理论两个角度，探索了一种用于 skip-gram 模型的增量式训练策略，通过提供简单的增量式扩展并深入理论分析，解决了现有神经词向量嵌入算法（包括 SGNS）的多遍训练和无法进行增量式更新的问题，实证实验证明了其正确性和实用性。

    Apr, 2017

  • 应用于推荐的 Word2Vec 算法：超参数的重要性

    本文探究了 Skip-gram with negative sampling 在推荐领域中的应用，通过大型超参数网格搜索发现了调整负采样分布、迭代次数、子采样参数和窗口大小等被忽略的超参数可以显著提高推荐系统性能，并发现自然语言处理任务和推荐任务的最优超参数配置存在明显差异。

    Apr, 2018

  • 超越负采样的高效分布式表示

    本文提出了一种学习分布式表示的有效方法，该方法通过最小化类似于 Word2Vec 算法中引入并在后来的工作中采用的目标函数来实现，其优化计算瓶颈是需要进行一定数量的操作来缩放到与样本大小成二次正比的 softmax 标准化常数。然而，本文的贡献在于展示 softmax 标准化常数可以在线性时间内估计，从而允许我们设计一种有效的优化策略来学习分布式表示，同时取得与负采样相比竞争性的准确性表现，但计算时间相对较短。

    Mar, 2023

  • 贝叶斯神经词嵌入

    本文介绍了一种基于可扩展的贝叶斯神经词嵌入算法，该算法依赖于 Skip-Gram 目标的变分贝叶斯解决方案，并提供了详细的步骤描述。我们在六个不同的数据集上展示实验结果，说明该算法在词类比和相似性任务上的表现与原始 Skip-Gram 方法相当。

    Mar, 2016

  • Skip-Gram 负采样的黎曼优化

    本文提出一种基于黎曼优化的算法，有效优化 Skip-Gram Negative Sampling（SGNS）词嵌入模型，与传统方法和基于 SPPMI 矩阵的 SVD 相比表现更优。

    Apr, 2017

  • 词语和短语的分布式表示及其组合性

    本文介绍了连续 Skip-gram 模型的扩展方法，包括减少常见词的子采样、负采样优化、短语学习等，以提高单词向量的质量和训练速度，为解决单词顺序和习惯用语表示上的问题提供了简单的解决方法。

    Oct, 2013

  • NSCaching: 为知识图谱嵌入提供简单高效的负采样

    本文提出了一种新的负采样方法，通过直接跟踪积极的负采样三元组，避免 GAN 带来的训练困难，实现了高效而有效的 Knowledge Graph embedding。

    Dec, 2018

  • 知识图表示学习中的负采样：综述

    知识图谱表示学习（KGRL）或知识图谱嵌入（KGE）在知识构建和信息探索的人工智能应用中起着至关重要的作用。这篇综述论文系统地回顾了各种负采样（NS）方法及其对 KGRL 成功的贡献，将现有的 NS 方法按照五个不同的类别进行了分类，并指出了各自的优缺点。此外，该综述还提出了一些开放性研究问题，为未来的研究提供了潜在方向。通过提供基础 NS 概念的概括和对齐，这篇综述为在 KGRL 环境下设计有效的 NS 方法提供了有价值的洞察，并为该领域的进一步发展提供了动力。

    Feb, 2024

  • 实例判别式自监督表示学习中负样本的理解

    本文提供了一种分析负样本使用对自监督学习下游任务的影响的新框架，证明了在一些实际场景下，使用更多负样本可以提高分类性能，并使用 coupon collector's 问题隐式地将下游任务的监督损失纳入到自监督损失中。

    Feb, 2021

  • 图表示学习中负采样的理解

    本文研究图表示学习中的负采样对于优化目标和结果方差的重要性，并提出了一种基于自对比近似和 Metropolis-Hastings 加速的负采样方法，MCNS，应用于链接预测、节点分类等任务，并在 19 个实验设置中证明了其优越性。

    May, 2020