EMNLPSep, 2020

知识图谱中的结构感知负采样

PDF
TL;DR该文提出了一种利用图结构进行负采样的方法，名为结构感知负采样 (SANS)，实验证明 SANS 不仅具有与 SOTA 方法相媲美的性能，而且不需要额外的参数或困难的对抗优化。
knowledge graphscontrastive learningentity embeddingsnegative samplinggraph structure
发现论文，激发创造
  • 图表示学习中负采样的理解

    本文研究图表示学习中的负采样对于优化目标和结果方差的重要性，并提出了一种基于自对比近似和 Metropolis-Hastings 加速的负采样方法，MCNS，应用于链接预测、节点分类等任务，并在 19 个实验设置中证明了其优越性。

    May, 2020

  • 知识图谱嵌入的实体感知负采样与误判辅助损失

    本文提出了一种名为 EANS（Entity Aware Negative Sampling）的新方法，采用高斯分布对齐的实体索引空间来抽样与正实体类似的负实体，同时引入辅助损失来缓解样本的负效应，结果表明本文的方法在几个知识图谱嵌入模型上优于现有的负采样最先进方法，且即使负样本数目受限制时，也能达到有竞争力的性能。

    Oct, 2022

  • 探究硬负样本分布对对比知识图谱嵌入的影响

    本文探讨了知识图谱嵌入的关键问题，并提出了使用 Hardness and Structure-aware（HaSa）对抗性 KGE 算法与负样本分布来消除误分类三元组，从而在 WN18RR 和 FB15k-237 数据集上优于现有的 KGE 方法。

    May, 2023

  • 针对聚类感知的无监督句子表示负采样

    本文提出了 ClusterNS 这一新的对比学习方法，将聚类信息引入负样本选择，同时使用改进的 K 均值聚类算法提供难负样本和识别批内的假负样本，以解决这一问题。实验表明我们的方法在无监督句子表示学习方面的性能优于基线模型，在语义文本相似度任务上表现出色。

    May, 2023

  • 异构图对比学习中的结构感知难例挖掘

    本文通过结构感知的硬负样本挖掘方案提出了一个基于自监督学习的对比学习方法，可以在少量标记数据的情况下提高异构图分析模型的准确性，并通过三个真实数据集的实证研究验证了该方法的有效性。

    Aug, 2021

  • 知识图表示学习中的负采样：综述

    知识图谱表示学习（KGRL）或知识图谱嵌入（KGE）在知识构建和信息探索的人工智能应用中起着至关重要的作用。这篇综述论文系统地回顾了各种负采样（NS）方法及其对 KGRL 成功的贡献，将现有的 NS 方法按照五个不同的类别进行了分类，并指出了各自的优缺点。此外，该综述还提出了一些开放性研究问题，为未来的研究提供了潜在方向。通过提供基础 NS 概念的概括和对齐，这篇综述为在 KGRL 环境下设计有效的 NS 方法提供了有价值的洞察，并为该领域的进一步发展提供了动力。

    Feb, 2024

  • 负采样对知识图谱链接预测的影响分析

    本文通过实证研究，对比了对知识图谱中实体之间关系进行无监督学习的四种嵌入模型（ escal，TransE，DistMult 和 ComplEX）使用不同负采样方法的效果，结果发现使用不同负采样方法得到的效果差异较大，且在不同数据集上表现也各有不同。

    Aug, 2017

  • 通过对比正则化提高图表示学习

    通过理论分析和实验，本文提出一种轻量级正则化项，旨在避免节点表示的高规范化和高变异性以提高泛化性能，从而在不同的节点相似性定义方面显着改善表示质量并超越现有最佳方法。

    Jan, 2021

  • SCE: 基于最稀疏割的可扩展网络嵌入

    本文提出了一种仅使用负样本进行训练的自然语言处理模型中 skip-gram 模型的大规模网络嵌入模型，该模型使用基于最稀疏切割问题的新对比目标，通过图卷积算子作为低通滤波器，将嵌入作为节点表示进行平滑，最终在真实数据集上的实验结果表明我们的模型在准确性和可扩展性方面都优于现有的强基线。

    Jun, 2020

  • 负采样对对比结构世界模型的影响

    本文通过对 Atari 数据集的研究表明，在对比损失采样负状态的方式发生微小变化时会导致模型性能的巨大变化，并利用时间步骤相关性来提高对比结构世界模型性能，同时收集了完整数据集以研究更多样化的经验。

    Jul, 2021