如何通过概率电路将知识图嵌入转化为生成模型
本研究使用 Transformer 模型代替传统知识图谱嵌入模型 (KGE) 的原子嵌入表示,将 KG link prediction 问题转化为序列到序列任务以及使用自回归解码。相比于传统 KGE 模型,这种简单而强大的方法在保持推理时间可控的同时,将模型大小减少了多达 98%,在不进行过多超参数调整的情况下,在多个大型数据集上的表现优于基线。
Mar, 2022
本文通过建立变体研究了基于 Graph Convolutional Networks 的知识图谱完成模型,在实验中发现了与预期相反的图结构建模并不对模型性能产生显著影响,而实体表示的转换是改善性能的关键因素。作者基于此提出了 LTE-KGE 框架,通过线性转换实体嵌入向现有的 KGE 模型中添加 GCNs 模块以达到类似的性能提升。实验结果表明,与 GCN-based KGC 方法相比,LTE-KGE 模型在性能上有类似的提升,同时更具计算效率。因此,本文表明 GCNs 对于 KGC 并不必要,新型基于 GCNs 的 KGC 模型需要进行更多的消融研究来验证其有效性。
Feb, 2022
KGEx 是一种新颖的后处理方法,通过借鉴替代模型研究来解释知识图嵌入(KGE)中的个别链接预测,并通过训练替代 KGE 模型识别重要的训练三元组,从而提供对于黑盒模型忠实的解释。
Oct, 2023
提出一种简单而有效的知识图谱嵌入框架,使用关系矩阵的全批量学习,基于正交 Procrustes 分析,非负采样训练等三项技术创新较大程度上减少训练时间和环境影响,同时能够生成具有高度可解释性并且富含语义的模型。
Apr, 2021
本文综述了知识图谱完成中的当前研究状态,特别关注了知识图谱嵌入设计的两个主要分支:基于距离的方法和基于语义匹配的方法,并探讨了与最近提出的模型之间的关联及其背后的趋势,最后讨论了利用预训练语言模型和实体关系的文本描述相结合进行知识图谱完成的新方法。
Sep, 2023
知识图谱嵌入(Knowledge graph embedding,KGE)通过将知识图谱(knowledge graph,KG)中的实体和关系表示为连续向量空间,可以用于预测缺失的三元组,实现知识图谱补全。然而,KGE 模型通常只能简要地学习三元组数据的结构关联,并且在真实世界的知识图谱中会被无关的模式和噪声链接误导。为了解决这个问题,我们在因果关系和嵌入解缠方面构建了一种新的 KGE 范式。我们进一步提出了一种因果增强的知识图谱嵌入(CausE)框架。CausE 应用因果干预来估计混杂嵌入的因果效应,并设计了新的训练目标来进行稳定的预测。实验结果表明,CausE 能够胜过基线模型,实现最先进的知识图谱补全性能。我们在指定的 URL 中发布了我们的代码。
Jul, 2023
本研究提出了一种基于能量的图嵌入算法来描述工业自动化系统,学习多个领域的知识,从而可以进行上下文感知预测和评估异常严重性,该模型可以应用于机器学习和神经形态计算等领域。
Oct, 2021
本文提出了一种新颖的不确定性知识图谱嵌入模型 UKGE,其目的是在嵌入空间中保留结构和不确定性信息,该模型通过学习不确定关系事实的置信度得出嵌入,并引入概率软逻辑来推断训练期间未见关系事实的置信度,实验表明 UKGE 在不确定知识的捕捉上非常有效,并在置信度预测,关系事实排名和关系事实分类等任务中表现出色。
Nov, 2018
提出了一种基于投影几何的 KGE 模型,支持多重变换类型(包括翻转,反射,平移,旋转和相似变换),旨在解决多关系型知识图谱在邻域中存在多个子图结构的问题,并在几个广泛使用的链接预测基准测试中表现出优越性。
Jun, 2020
使用为生成原型图设计的启发式算法,从而生成可用于学习知识图嵌入的原型图嵌入,这有助于创造更加全面的嵌入,尤其对于实体聚类和节点分类任务效果显著。
Jun, 2023