WWWFeb, 2022

从区分到生成：基于生成式 Transformer 的知识图谱补全

PDF
TL;DR本论文提出 GenKGC 方法，运用预训练语言模型将知识图谱补全转化为序列生成任务，结合关系引导演示和实体感知分层解码以实现更好的表示学习和更快的推理，并在三个数据集上进行实验，结果表明该方法比基线更优或具有可比较的性能，与预训练语言模型先前的方法相比，具有更快的推理速度。此外，我们还发布了一个新的大规模中文知识图谱数据集 AliopenKG500 供研究使用。
发现论文，激发创造
  • 序列到序列的知识图谱补全与问答

    本研究使用 Transformer 模型代替传统知识图谱嵌入模型 (KGE) 的原子嵌入表示，将 KG link prediction 问题转化为序列到序列任务以及使用自回归解码。相比于传统 KGE 模型，这种简单而强大的方法在保持推理时间可控的同时，将模型大小减少了多达 98％，在不进行过多超参数调整的情况下，在多个大型数据集上的表现优于基线。

    Mar, 2022

  • KC-GenRe: 基于大型语言模型的知识约束生成式重排序方法用于知识图谱补全

    KC-GenRe 是一种基于 LLMs 的知识约束生成重排序方法，用于知识图谱完成任务，通过生成的 LLMs 解决了匹配问题、排序问题和遗漏问题，并取得了优于以往方法的性能。

    Mar, 2024

  • 利用相互知识蒸馏的集体知识图谱补全

    本文介绍了一种名为 CKGC-CKD 的新方法，通过使用关系感知图卷积网络编码模型在集成的知识图谱和各自的知识图谱上进行训练，以最大程度地利用来自不同知识图谱的集体知识，从而缓解了个体知识图谱的不完整性，并通过相互知识蒸馏机制来进行知识传递，在多语言数据集上取得了比所有先进模型更好的知识图谱完成结果。

    May, 2023

  • 知识图谱完善：基于知识检索和阅读理解的方法

    该研究提出一种基于信息检索和阅读理解的知识图谱自动完成模型，在实验中发现该模型可以很好地解决无法从现有知识中推断的关系，并在多个知识图谱自动完成数据集上取得良好结果。

    Oct, 2022

  • 发挥联合作用：利用语言模型和邻域信息增强生成式知识图谱补全

    我们提出了一种改进基于语言模型的知识图谱补全方法，通过包含节点邻域作为附加信息，提高了预测效果，并且在多种评估数据集上优于传统方法和基于语言模型的 KGC 方法。我们还对邻域对模型预测的影响进行了详细分析，并指出了通过更有效的邻域选择来显著改进 KGC 的方向。

    Nov, 2023

  • 联合多语言知识图谱补全与对齐

    本文提出了一种联合完成和对齐知识图谱的模型，使用关系感知图神经网络编码多跳邻域结构，并利用结构不一致性降低机制将完成信息融入对齐组件，采用对齐种子扩展和三元组转移机制，实验结果表明该模型在多语言知识图谱对齐和完成任务上取得了最佳结果。

    Oct, 2022

  • KG-BERT: 知识图谱补全任务的 BERT 模型

    本研究提出使用预训练语言模型来完成知识图谱，使用 KG-BERT 架构对知识图谱中的三元组进行建模，通过实验结果显示，该方法在三元组分类、链接预测和关系预测任务中均可以达到最佳表现。

    Sep, 2019

  • 逐步增强的知识图谱补全

    在这篇论文中，我们研究了与真实世界建设场景相关的三个重要过程：验证过程，挖掘过程和训练过程，并通过整合这三个过程引入了渐进式知识图谱完成（PKGC）任务，以模拟在真实世界场景中逐步完善知识图谱的过程。此外，为了加快 PKGC 处理，我们提出了两个加速模块：优化的 Top-k 算法和语义有效性过滤器，这些模块显著提高了挖掘过程的效率。我们的实验证明链接预测的性能不能准确反映 PKGC 的性能，更深入的分析揭示了影响结果的关键因素，并为未来的研究提供了潜在的方向。

    Apr, 2024

  • 使用图形 transformer 从知识图谱生成文本

    本文介绍了一种新型图形转换编码器，可处理知识图谱等非层次性图形的内容，应用于科学文本领域的图 - 文本生成，评价结果表明，该技术可以产生比竞争的编码解码方法更具信息量且结构更好的文本。

    Apr, 2019

  • 通过预训练语言模型对文本增强开放知识图谱完成进行优化

    TAGREAL 通过从大型文本语料库中检索支持信息，自动生成高质量的查询提示，从而探索 PLM 的知识，实现开放知识图谱完成，并实现了最先进的性能表现。

    May, 2023