KDDMay, 2023

基于 Transformer 的超关系和数值知识图的表示学习

PDF
TL;DR本文提出了一个名为 HyNT 的统一框架，它能够学习含数字量词的超关系知识图的表示，并且可以通过利用三元组与其限定词之间的关联和数字信息，来减少使用变形器的计算成本，同时可用于预测超关系知识图中缺失的数字值、实体或关系，并在真实数据集上展示了显著的性能优势。
发现论文，激发创造
  • 学习超关系知识图谱的表示

    本文介绍了一个框架，它使用多个聚合器从 base triple 和 qualifiers 两个角度来学习超关系事实的表示，并证明了其在多个数据集上进行超关系知识图完整性的有效性。

    Aug, 2022

  • 提升超关系知识图谱补全

    该研究提出了一种用于高度关联知识图谱 (HKGs) 补全的方法，该方法引入了两个新修订：一是用轻量级实体 / 关系嵌入处理技术替换计算量大的图神经网络模块以提高计算效率；二是增加一个定向于合格证的辅助训练任务以提高该方法的预测能力，并且该方法在三个基准数据集上的实验中始终优于 STARE，计算效率显著提高。

    Apr, 2021

  • 关系图变换器：用于知识图表示的关系图转换器

    本研究提出了一种新型变压器架构 Relphormer，其中引入 Triple2Seq 来动态采样上下文化子图序列作为输入以解决知识图谱中异构结构和语义信息难以捕获的问题，并提出了一种 novel self-attention 机制以编码关系信息。实验结果表明，相比基线模型，Relphormer 获得了更好的性能。

    May, 2022

  • 学习实体和关系的表征

    本文提出了三种知识图谱表征模型，分别是 HypER、TuckER 和 MuRP，它们都能够自动预测缺失的关系，并且在性能方面不断取得进步。同时，该文还将最新的理论研究成果推广到了知识图谱的领域，探讨了如何在这些模型中编码不同种类的关系。

    Jan, 2022

  • 基于三元组 BERT 网络的知识图谱精化

    本文利用三元组网络和基于 transformer 的语言模型，采用信息聚类方式对知识图谱中的实体或关系进行 embedding，提升关系预测准确性。通过在多个基准知识图谱上的 triplet 分类和关系预测任务的表现验证了 GilBERT 方法的优越性。

    Nov, 2022

  • HittER: 分层 Transformer 用于知识图谱嵌入

    本文针对多关系知识图谱中实体和关系的学习表示问题，提出了一种基于分层 Transformer 模型的方法，该方法可以联合学习实体关系组合和基于源实体社区的关系上下文。实验结果表明 HittER 模型在多个链接预测数据集上取得了最新的最优结果。此外，我们还提出了一种简单的方法将 HittER 集成到 BERT，并在两个 Freebase 问答数据集上证明了其有效性。

    Aug, 2020

  • 为知识图谱补全预训练变形器

    文章介绍了一种名为 iHT 的知识图谱 (KG) 表征模型，该模型基于 Transformer 并经过大规模预训练，由实体编码器和邻居感知关系得分函数组成，可用于 KG 补全，经过实验证明其具有很好的泛化能力和良好的表现。

    Mar, 2023

  • 超关系知识图谱上的查询嵌入

    本文介绍了如何利用 Graph Neural Networks 来嵌入和回答超关系连接查询，以处理新型复杂查询，同时提出了一种提高查询效率的方法，并在实验证明 Qualifier 可以在多种查询模式下提高查询效果。

    Jun, 2021

  • 超级形式：增强实体和关系相互作用以完成超关系知识图谱

    HyperFormer 是一种考虑到本地级别顺序信息的模型，它通过不同模块来编码实体、关系和限定符的内容。该模型使用 Mixture-of-Experts 策略以增强表示能力并减少模型参数和计算量，实验证明其有效性。

    Aug, 2023

  • 基于图形编码器和树形解码器的表格 - 文本混合内容中的数值推理问题回答

    本文提出了一种关系图增强型的混合表文本数值推理模型，将表 - 文本混合内容的数值问题回答建模为表达式树生成任务，并在公开基准测试中验证了其性能。

    Sep, 2022