Mar, 2022

LEMON: 知识图谱嵌入负采样的语言模型

PDF
TL;DR本文提出了一种利用预训练语言模型来生成负样本的方法，该方法利用实体之间的距离通过它们的文本信息形成邻域集群，以得到符号实体的表示形式，有效地应用于基准知识图谱的链接预测任务。
knowledge graph embeddingmachine learninglink predictionnegative samplingpre-trained language models
发现论文，激发创造
  • NSCaching: 为知识图谱嵌入提供简单高效的负采样

    本文提出了一种新的负采样方法，通过直接跟踪积极的负采样三元组，避免 GAN 带来的训练困难，实现了高效而有效的 Knowledge Graph embedding。

    Dec, 2018

  • 知识图表示学习中的负采样：综述

    知识图谱表示学习（KGRL）或知识图谱嵌入（KGE）在知识构建和信息探索的人工智能应用中起着至关重要的作用。这篇综述论文系统地回顾了各种负采样（NS）方法及其对 KGRL 成功的贡献，将现有的 NS 方法按照五个不同的类别进行了分类，并指出了各自的优缺点。此外，该综述还提出了一些开放性研究问题，为未来的研究提供了潜在方向。通过提供基础 NS 概念的概括和对齐，这篇综述为在 KGRL 环境下设计有效的 NS 方法提供了有价值的洞察，并为该领域的进一步发展提供了动力。

    Feb, 2024

  • 负采样对知识图谱链接预测的影响分析

    本文通过实证研究，对比了对知识图谱中实体之间关系进行无监督学习的四种嵌入模型（ escal，TransE，DistMult 和 ComplEX）使用不同负采样方法的效果，结果发现使用不同负采样方法得到的效果差异较大，且在不同数据集上表现也各有不同。

    Aug, 2017

  • 在知识表示学习中应用 GAN 进行负采样

    本文提出了一个基于对抗生成网络的知识表示学习框架，利用生成器获得高质量的负样本，通过判别器学习知识图谱中实体和关系的嵌入，进而提高传统模型的知识表示学习能力。实验结果表明，该框架在三元组分类和链接预测任务上优于基线模型。

    Sep, 2018

  • 保持积极：无需负采样的知识图谱嵌入

    该论文提出了一种训练过程，通过向损失函数添加新颖的正则化项，避免了使用负采样的需要，并且在两个关系嵌入模型（DistMult 和 SimplE）中得到了优异的性能和速度。

    Jan, 2022

  • KBGAN：知识图谱嵌入的对抗学习

    KBGAN 是一种对抗学习框架，利用知识图谱嵌入模型作为负样本生成器，辅助训练目标模型，从而大幅提高链接预测任务的性能。

    Nov, 2017

  • MixKG: 知识图谱中更难的负样本混合

    本文提出了一种基于混合运算的负样本采样方法 MixKG，通过过滤出符合充分性和正确实体相似性两个标准的异常三元组，使用这些三元组生成更高质量的负采样，实验证明该方法优于其他采样算法。

    Feb, 2022

  • 高效非采样知识图谱嵌入

    通过提出 Efficient Non-Sampling Knowledge Graph Embedding（NS-KGE）框架，该研究将知识图谱嵌入模型中的负采样方法转变为全量消除，并使用数学推导减少了模型计算复杂度，既提高了效率也提高了准确性。实验结果表明，与传统方式相比，NS-KGE 框架在效率和准确度上均有所提高，并适用于多类知识图谱嵌入模型。

    Apr, 2021

  • 知识图谱嵌入的实体感知负采样与误判辅助损失

    本文提出了一种名为 EANS（Entity Aware Negative Sampling）的新方法，采用高斯分布对齐的实体索引空间来抽样与正实体类似的负实体，同时引入辅助损失来缓解样本的负效应，结果表明本文的方法在几个知识图谱嵌入模型上优于现有的负采样最先进方法，且即使负样本数目受限制时，也能达到有竞争力的性能。

    Oct, 2022

  • 语言模型作为知识嵌入

    该论文提出了一种基于对比学习的 LMKE 方法，采用语言模型从文本信息中推导出知识嵌入，旨在丰富长尾实体的表征，并解决以前的基于描述的方法的问题，实验结果表明 LMKE 在知识嵌入基准测试中特别是长尾实体上取得了最先进的性能.

    Jun, 2022