Nov, 2022

基于三元组 BERT 网络的知识图谱精化

PDF
TL;DR本文利用三元组网络和基于 transformer 的语言模型，采用信息聚类方式对知识图谱中的实体或关系进行 embedding，提升关系预测准确性。通过在多个基准知识图谱上的 triplet 分类和关系预测任务的表现验证了 GilBERT 方法的优越性。
knowledge graph embeddingtriplet networktransformer-based language modelsrelation predictionknowledge graph refinement
发现论文，激发创造
  • KG-BERT: 知识图谱补全任务的 BERT 模型

    本研究提出使用预训练语言模型来完成知识图谱，使用 KG-BERT 架构对知识图谱中的三元组进行建模，通过实验结果显示，该方法在三元组分类、链接预测和关系预测任务中均可以达到最佳表现。

    Sep, 2019

  • 学术知识图谱补全的三元分类

    本文提出了一种利用预训练的 transformer 语言模型来执行学术知识图谱补全的方法 ——exBERT，并在三个学术知识图谱完成数据集上表现优异，还提供了两个学术数据集作为资源。

    Nov, 2021

  • 结合自适应增强语义信息的知识图谱补全方法

    该研究构建了一种知识图谱补全方法，通过微调 BERT 模型获取三元组中隐藏的语义信息，并使用注意力特征嵌入方法计算正负三元组中关系和实体之间的语义注意力得分，形成软约束规则来实现语义信息的自适应增强。此外，考虑到高维向量对影响，使用 BERT-Whitening 方法降低维度，提高语义向量的效率。经实验比较，在 FB15K 和 WIN18 数据集上，所提出的方法表现更好，比原始翻译模型有约 2.6％的数值改善。

    Feb, 2023

  • 知识图谱融合用于语言模型微调

    探索将知识图谱注入 Bert 模型的微调阶段来提高语言理解，并通过实验证明注入相关高质量知识对于特定任务有显著的性能提升。

    Jun, 2022

  • 在知识图谱中学习基于注意力机制的嵌入向量以预测关系

    该研究论文提出了基于注意力机制的特征嵌入方法，能有效地捕捉到三元组周边复杂和隐式的信息，并在多个数据集上相对于现有方法实现了显著的性能提升。

    Jun, 2019

  • 三元组检索的图式推理问答

    提出了一种简单而有效的方法来检索和重新排序与问题回答相关的三元组，并将它们与问题连接以提高语言模型的表现，实验结果显示，其在常识问答和开放式书本问答数据集上均表现优于现有的最佳方法。

    May, 2023

  • 基于结构增强的文本表示学习用于高效的知识图谱补全

    本研究旨在整合知识图谱的图嵌入和文本编码技术，以提高自动完成知识图谱的性能，实现更精确的链接预测和结构学习。实验结果表明，该方法能实现与文本编码方法相比 1-2 个数量级的推理成本减少和最先进的性能表现。

    Apr, 2020

  • 用于语义网络填充的多任务预训练语言模型

    本文研究如何提高知识图谱的完整性，通过引入 LP-BERT 模型，并结合语义匹配以及数据增强的方法，实现了知识图谱补全任务的最新成果，优于现有最佳表现。

    Jan, 2022

  • 通过弱监督重新利用知识图谱嵌入进行三元组表示

    本文提出了一种基于预训练知识图谱嵌入的三元组表示微调方法，利用 Siamese 网络训练，从而在三元组分类和聚类任务中实现了与其他最新技术相比的一致性改进。

    Aug, 2022

  • 提升超关系知识图谱补全

    该研究提出了一种用于高度关联知识图谱 (HKGs) 补全的方法，该方法引入了两个新修订：一是用轻量级实体 / 关系嵌入处理技术替换计算量大的图神经网络模块以提高计算效率；二是增加一个定向于合格证的辅助训练任务以提高该方法的预测能力，并且该方法在三个基准数据集上的实验中始终优于 STARE，计算效率显著提高。

    Apr, 2021