ConvD：增强动态卷积嵌入的知识图谱补全

Dec, 2023

ConvD：增强动态卷积嵌入的知识图谱补全

ConvD: Attention Enhanced Dynamic Convolutional Embeddings for Knowledge Graph Completion

Wenbin Guo, Zhao Li, Xin Wang, Zirui Chen

TL;DR本文提出了一种新颖的动态卷积嵌入模型 ConvD，用于知识图谱补全，并通过将关系嵌入重塑为多个内部卷积核，改善传统卷积嵌入模型的外部卷积核，有效增强了关系嵌入与实体嵌入之间的特征交互，进一步提高了模型的表达能力。通过广泛的实验证明，我们提出的模型在各种数据集上始终优于最先进的基线方法，平均改进范围从 11.30% 到 16.92%。消融实验证实了 ConvD 模型的每个组件模块的有效性。

Abstract

Knowledge graphs generally suffer from incompleteness, which can be alleviated by completing the missing information. Deep knowledge convolutional embedding models based on neural networks are currently popular methods for knowledge graph completion. However, most existing methods use

knowledge graph convolutional embedding relation embeddings entity embeddings dynamic convolution

发现论文，激发创造

基于卷积神经网络的知识库补全新嵌入模型

本文提出了一种名为 ConvKB 的嵌入模型，通过卷积神经网络来捕获知识库中实体和关系之间的全局关系和转换特征，并在两个基准数据集上实现了比以前最先进的嵌入模型更好的链接预测性能。

Dec, 2017

二维卷积知识图谱嵌入

本研究设计了一种多层卷积网络模型 ConvE 用于知识图谱的链接预测，针对多种常见数据集进行了实验，获得了与 DistMult 和 R-GCN 相媲美的性能，极大提高了参数效率，并发现简单基于规则的模型可以获得 WN18 和 FB15k 数据集的最优效果

Jul, 2017

ComDensE：知识图谱补全的关系感知和公共特征的合并稠密嵌入

本文提出 ComDensE，该模型采用稠密神经网络，结合关系感知和普通特征提取，实现了在知识图谱补全方面的最佳表现。

Jun, 2022

在知识图谱中学习基于注意力机制的嵌入向量以预测关系

该研究论文提出了基于注意力机制的特征嵌入方法，能有效地捕捉到三元组周边复杂和隐式的信息，并在多个数据集上相对于现有方法实现了显著的性能提升。

Jun, 2019

提升图卷积神经网络的关注力

提出了一种名为图知识增强和蒸馏模块的插件，通过多头注意机制提取和聚合图信息以增强节点表示，并能通过特殊设计的注意力蒸馏方法将大型教师模型的知识蒸馏到高性能和紧凑的学生模型中，并通过注意力蒸馏有效地从大型教师网络转移蒸馏知识到小型学生网络。

Mar, 2024

动态卷积：卷积核的注意力机制

提出一种名为 Dynamic Convolution 的新设计，基于卷积核的注意力动态地聚合多个并行卷积核，从而增加模型复杂度，提高卷积神经网络的表示能力，有效提高 MobileNetV3-Small 模型在 ImageNet 分类任务上的精度。

Dec, 2019

超网络知识图谱嵌入

本文提出一种基于超网络结构的张量分解方法，用于实现知识图谱中链接预测任务，取得了比 ConvE 和所有以前的方法更好的性能表现，同时能够作为张量分解模型的一种简化（相比较于卷积神经网络方法）而得到推广。

Aug, 2018

InteractE: 通过增加特征交互来改进基于卷积的知识图谱嵌入

本文提出 InteractE 方法，通过增加特征间的交互来提高链接预测性能，并在 FB15k-237、WN18RR 和 YAGO3-10 数据集上取得了优异的表现，相较于 ConvE，InteractE 在 FB15k-237、WN18RR 和 YAGO3-10 数据集上的 MRR 分数分别提高了 9%，7.5% 和 23%。

Nov, 2019

全维动态卷积

该论文提出一种更加通用而优雅的动态卷积设计，Omni-dimensional Dynamic Convolution (ODConv)，通过多维度的注意力机制与并行策略学习卷积核在四个维度上的补充注意力，以提高各种流行的 CNN 主干网络的准确性，且可通过将其插入到现有 CNN 架构中来使用，实验证明与多个动态卷积方法相比，ODConv 甚至只需一组卷积核就能显著提高准确率。

Sep, 2022

用于知识库补全的端到端结构感知卷积网络

本文中，我们提出了一种新颖的结构感知卷积网络 (SACN)，它综合了 GCN 和 ConvE 两种方法，其中，WGCN 使用可学习的权重来聚合邻居节点信息，实现了更准确的图节点嵌入表示；而 Conv-TransE 则使得 ConvE 具有了一定的可解释性，并保持了 ConvE 的预测准确性。我们在标准数据集 FB15k-237 和 WN18RR 上进行了实验，结果表明，与最先进的 ConvE 相比，我们的方法 HITS@1、HITS@3 和 HITS@10 指标上分别提高了 10% 左右。

Nov, 2018