LightCAKE: 一个轻量级的上下文感知知识图谱嵌入框架
提出了一种基于常识感知的知识图谱嵌入框架,能够从实体概念中自动提取常识,利用其拓展有效自我监督,同时通过常识和事实视角的链接预测实现高质量负采样,提高了知识图谱嵌入模型的性能。
Feb, 2022
本文提出了考虑知识图谱中实体和关系的上下文特性的全新范例 Contextualized Knowledge Graph Embedding (CoKE),它采用 Transformer 编码器以从实体和关系序列中获取语境化表示,并在广泛的公共基准测试中验证了其在链接预测和路径查询中的优越性。
Nov, 2019
知识图谱嵌入(Knowledge graph embedding,KGE)通过将知识图谱(knowledge graph,KG)中的实体和关系表示为连续向量空间,可以用于预测缺失的三元组,实现知识图谱补全。然而,KGE 模型通常只能简要地学习三元组数据的结构关联,并且在真实世界的知识图谱中会被无关的模式和噪声链接误导。为了解决这个问题,我们在因果关系和嵌入解缠方面构建了一种新的 KGE 范式。我们进一步提出了一种因果增强的知识图谱嵌入(CausE)框架。CausE 应用因果干预来估计混杂嵌入的因果效应,并设计了新的训练目标来进行稳定的预测。实验结果表明,CausE 能够胜过基线模型,实现最先进的知识图谱补全性能。我们在指定的 URL 中发布了我们的代码。
Jul, 2023
提出了一种上下文感知的动态知识图谱嵌入方法 (DKGE),该方法利用两个有注意力机制的图卷积网络、一种门控策略和翻译操作,通过双重表示 (知识嵌入和上下文元素嵌入) 联合模型化实体和关系及其环境,以快速获取更新的知识图谱嵌入,同时支持从头开始的知识图谱嵌入。实验证明 DKGE 在动态环境下具有良好的有效性和效率。
Oct, 2019
通过图上下文和对比学习,提出了一种新的知识图谱完成框架 KRACL,包括 Knowledge Relational Attention Network 和知识对比损失,能够有效地解决知识图谱中低出现频率实体的稀疏性和噪声三元组的鲁棒性问题。实验表明,KRACL 在多个标准知识图谱基准测试中取得了优异的结果。
Aug, 2022
本文提出了一种轻量级的建模框架,主要关注评分函数的设计以实现高度竞争的关系表达能力,并突出两个关键特征:1)促进足够的特征交互;2)保留关系的对称性和反对称性。对公共基准的大量实验表明,该框架具有高效和有效性。
May, 2020
本文提出了一种轻量级模块化知识图谱完成 (GreenKGC) 方案,该方案包含三个模块:表示学习、特征修剪和决策学习,旨在解决在获得更好推理能力的同时保持较小的模型大小。实验结果表明,GreenKGC 可以在较小的模型尺寸下达到与高维嵌入方法相当甚至更好的性能,并且可以推广到更多任务中。
Aug, 2022
本文介绍了 LambdaKG,一个使用多个预训练语言模型(如 BERT,BART,T5 和 GPT-3)为基础的 KGE 库,为知识图谱完成、问题回答、推荐和知识探测等提供支持,已在公共开源平台上发布,并具有长期维护。
Oct, 2022
本文提出的 CoLAKE 是一种基于预训练语言模型的的语言和知识情境化嵌入方法,可以提取一个实体的知识上下文并将其整合到一个统一的数据结构中,在知识驱动的任务、知识探测任务和语言理解任务中表现出优良性能。
Oct, 2020