Bi-Link：通过对 Transformer 和提示进行对比学习，连接文本中的归纳链接预测

Oct, 2022

Bi-Link：通过对 Transformer 和提示进行对比学习，连接文本中的归纳链接预测

Bi-Link: Bridging Inductive Link Predictions from Text via Contrastive Learning of Transformers and Prompts

Bohua Peng, Shihao Liang, Mobarakol Islam

TL;DR本文提出了一种叫做 Bi-Link 的对比学习框架，利用 BERT 的语法知识进行有效的搜索来进行关系预测，并设计了对称的关系预测模型，并在链接预测数据集（WN18RR、FB15K-237 和 Wikidata5M）上优于最近的基准线。

Abstract

inductive knowledge graph completion requires models to comprehend the underlying semantics and logic patterns of relations. With the advance of pretrained language models, recent research have designed transformers for link prediction tasks. However, empirical studies show that linear

inductive knowledge link prediction contrastive learning probabilistic syntax prompts symmetric relations

发现论文，激发创造

LinkBERT: 利用文档链接对语言模型进行预训练

本研究提出了一种基于链接文档的 LM 预训练方法 LinkBERT，利用文档之间的超链接链接构建了文本语料库的图形，并通过预训练实现了关系预测和蒙面语言建模两个联合自监督目标，其在多跳推理和少样本 QA 方面特别有效，同时在 BioNLP 任务上表现出新的最高水平。

Mar, 2022

用于语义网络填充的多任务预训练语言模型

本文研究如何提高知识图谱的完整性，通过引入 LP-BERT 模型，并结合语义匹配以及数据增强的方法，实现了知识图谱补全任务的最新成果，优于现有最佳表现。

Jan, 2022

基于双线性模型的多关系链接预测

本文研究了多关系链接预测和知识图谱完成的双线性嵌入模型，探讨了文献中各种双线性模型的表达能力和相互关系，证明了多个嵌入约束条件的双线性模型可以表示每个关系集合，并提出了多个嵌入关系级联模型达到最先进的预测性能的证据。

Sep, 2017

基于三元注意力预训练的生物医学实体链接

将基因组学实体链接到自然语言处理任务中，提出了一种使用知识图谱信息预训练生成式大型语言模型的新框架。

Aug, 2023

学习双层知识图谱表示用于超越链接预测的推理

本文提出了一种基于三元组关系的知识图谱嵌入方法 BiVE，通过增加高层关系和数据增广，实现了三元组预测和有条件链接预测任务的精确性的提高，并在实际应用的双层知识图谱中取得了最佳表现。

Feb, 2023

知识图谱中基于路径的神经网络的归纳链接预测

本文提出了使用孪生神经网络的基于路径的归纳链接预测模型 SiaILP，仅依赖关系和路径嵌入，可泛化到新实体而无需微调，实验证明该模型在归纳版本的 WN18RR、FB15k-237 和 Nell995 的链接预测任务中取得了多个最新的最优性能。

Dec, 2023

BERT 的归纳关系预测

本文提出了一种名为 BERTRL 的解决方案，该方案使用预训练语言模型和 fine-tuning，通过将关系实例及其可能的推理路径作为训练样本，支持归纳学习并在 15 个应用中超越现有技术。

Mar, 2021

知识图谱中半归纳链接预测的基准测试

提出了一个大规模基准测试，用于评估半归纳链接预测模型，在不同实验中发现，半归纳链接预测表现远不及透视性能，在集成语境和文本信息的半归纳链接预测模型方面提供了进一步研究的测试平台。

Oct, 2023

采用大型语言模型进行跨数据源生物医学概念链接

利用大型语言模型 PromptLink 实现生物医学概念链接，解决概念命名差异问题，从而在不同数据源之间进行集成分析，该方法通过两阶段提示实现链接，既充分利用了大型语言模型的先验知识，又提高了结果的可靠性。

May, 2024

变化规模知识图谱中的归纳链接和排名（IRT2）

本文针对工业用例中初始缺乏有标注数据和分类信息的情况，讨论了建立特定领域知识模型的挑战，并提出了两种神经模型用于归纳链接预测。实验表明，这些模型在可链接的知识图数据减少的情况下能显著提高性能并且优于稀疏检索器。

Jan, 2023