正交 Procrustes 分析实现高效知识图谱嵌入学习

ACLApr, 2021

正交 Procrustes 分析实现高效知识图谱嵌入学习

Highly Efficient Knowledge Graph Embedding Learning with Orthogonal Procrustes Analysis

Xutan Peng, Guanyi Chen, Chenghua Lin, Mark Stevenson

TL;DR提出一种简单而有效的知识图谱嵌入框架，使用关系矩阵的全批量学习，基于正交 Procrustes 分析，非负采样训练等三项技术创新较大程度上减少训练时间和环境影响，同时能够生成具有高度可解释性并且富含语义的模型。

Abstract

knowledge graph embeddings (KGEs) have been intensively explored in recent years due to their promise for a wide range of applications. However, existing studies focus on improving the final model performance without acknowledging the computational cost of the proposed approaches, in t

knowledge graph embeddings kge framework batch learning orthogonal procrustes analysis non-negative-sampling training

发现论文，激发创造

ProjB: 一种改进的双线性偏置 ProjE 模型用于知识图谱补全

本研究提出了一种改进的 ProjE KGE 模型，通过对所有的可转化和双线性交互进行捕获，以及捕获实体非线性，从而改进了模型的性能，并在基准知识图谱上取得了更好的实体预测结果，同时提出了一种并行处理结构和一些新的采样策略以提高大型知识图谱的可扩展性。

Aug, 2022

知识图谱嵌入的分块对角正交关系与矩阵实体

通过使用矩阵表示实体和使用黎曼优化获得分块对角正交矩阵表示关系，我们引入了一种新颖的知识图谱嵌入模型 OrthogonalE，提高了模型的泛化性和灵活性，显著优于现有最先进的知识图谱嵌入模型，并大幅减少了关系参数的数量。

Jan, 2024

通用正交参数化的知识图谱嵌入泛化

最近的知识图谱嵌入（KGE）研究依赖于欧几里得 / 双曲正交关系变换以建模内在的逻辑模式和拓扑结构。然而，现有方法局限于维度有限和同质几何的刚性关系正交化，导致建模能力不足。本文介绍了一种名为 GoldE 的强大框架，它基于广义 Householder 反射形式的通用正交参数化，从维度和几何方面突破了这些方法的限制。这种参数化可以自然地实现维度扩展和几何统一，并具备理论保证，使我们的框架能够同时捕捉到知识图谱的重要逻辑模式和固有拓扑异质性。在实证方面，GoldE 在三个标准基准上实现了最先进的性能。代码可在提供的网址中获得。

May, 2024

基于几何代数嵌入的静态和时态知识图完成

本论文使用几何代数和张量分解提出了一种新的知识图谱表示学习方法 GeomE 和 TGeomE，用于解决深度学习中的时序数据问题。结果表明，该方法在四个常用的静态 KG 数据集和四个知名的时间 KG 数据集上实现了最先进的性能。

Feb, 2022

知识图谱嵌入：概述

本文综述了知识图谱完成中的当前研究状态，特别关注了知识图谱嵌入设计的两个主要分支：基于距离的方法和基于语义匹配的方法，并探讨了与最近提出的模型之间的关联及其背后的趋势，最后讨论了利用预训练语言模型和实体关系的文本描述相结合进行知识图谱完成的新方法。

Sep, 2023

高效嵌入动态知识图谱

提出了一种上下文感知的动态知识图谱嵌入方法 (DKGE)，该方法利用两个有注意力机制的图卷积网络、一种门控策略和翻译操作，通过双重表示 (知识嵌入和上下文元素嵌入) 联合模型化实体和关系及其环境，以快速获取更新的知识图谱嵌入，同时支持从头开始的知识图谱嵌入。实验证明 DKGE 在动态环境下具有良好的有效性和效率。

Oct, 2019

可裁剪的知识图谱嵌入

提出了一种新颖的 KGE 训练框架 MED，通过该框架可以训练一次来获得适用于多个不同维度需求的可裁剪 KGE 模型，模型中的子模型可直接使用而无需额外训练。实验证明 MED 的有效性、高效性和灵活性。

Jul, 2024

基于离散优化的离散知识图谱嵌入

本研究提出了离散知识图谱嵌入（DKGE）方法，使用可计算的离散优化算法将知识图谱实体和关系投影到汉明空间中，以解决传统连续嵌入方法中巨大的存储和计算成本挑战。DKGE 可以在理论上保证收敛，实验结果表明 DKGE 比传统哈希函数实现了更高的准确性，而且比很多连续嵌入方法具有更低的计算复杂度和存储成本。

Jan, 2021

基于规则学习的关系模式知识图嵌入的综合研究

知识图谱嵌入（KGE）是解决知识图谱完成（KGC）任务的有效方法。本文通过对 4 种常见关系模式的性能评估和理论分析，引入了一种无需额外训练的训练无关方法（SPA）来提高 KGE 模型的性能。

Aug, 2023

通过记忆推理：最近邻居知识图嵌入

本文提出了通过预训练语言模型和 k 近邻的知识图谱嵌入新方法 kNN-KGE，使得 rare 或 emerging entities 更容易被显式地存储，而非隐式存在于模型参数中，实验证明该方法可提高归纳式和传导式链接预测结果，并在只有很少的三元组的低资源情况下获得更好的性能。

Jan, 2022