Jan, 2024

历史链条：通过 LLMs 进行时态知识图完善的学习和预测

PDF
TL;DR本论文提出了一种新颖的方法，将时间链接预测视为历史事件链中的事件生成任务，并通过有效的微调方法将 LLMs 适应特定的图文本信息和时间线中发现的模式。此外，我们引入了基于结构的历史数据增强和逆向知识的整合，以强调 LLMs 对结构信息的认知，从而提高其推理能力。通过在多个广泛使用的数据集上进行彻底的实验，我们发现我们的微调模型在多个度量标准上优于现有的基于嵌入的模型，达到了最先进水平，并进行了充分的消融实验，探索 LLMs 在执行结构化时间知识推断任务时的关键影响因素。
发现论文，激发创造
  • GenTKG：时序知识图谱上的生成预测

    我们提出了一个新颖的检索增强生成框架 GenTKG，结合了时间逻辑规则检索策略和轻量级参数效率指导，用于在时间知识图上进行生成性预测，证实了大语言模型在时间知识图领域具有巨大潜力，并开辟了时间知识图生成性预测的新领域。

    Oct, 2023

  • 利用大型语言模型通过历史链推理提升时间知识图预测

    基于 LLM 的时态知识图预测模型存在三个缺点，为解决这些问题，我们提出了一种称为 CoH 的历史链推理方法，以实现对高阶历史信息的有效利用，进而增强了基于图模型的 TKG 预测性能。

    Feb, 2024

  • 时间知识图谱补全：综述

    本研究首次总结了时间知识图补全方法的研究进展，包括背景、基准数据集、评估指标以及现有方法，旨在解决静态知识图补全方法的不准确问题。未来的研究方向也在文章中提出。

    Jan, 2022

  • 上下文学习下没有先验知识的时间知识图预测

    本文研究利用大型语言模型和上下文学习技术进行时间知识图谱（TKG）预测，并证明可在不需要显式重点捕获结构和时态信息的情况下，LLM 与针对 TKG 预测深度设计和训练的最先进的 TKG 模型表现相当，而且本文发现使用数值索引而非实体 / 关系名称可以实现接近相同的性能，且证明上下文学习可以帮助 LLMs 学习历史上不规律的模式，从而超越基于共同或最新信息的简单预测。

    May, 2023

  • 学习时态知识图谱推理的多图结构

    提出一种创新的推理方法，重点关注时间知识图推理中的多图结构学习，以捕捉并发结构和演化交互，并融入时间语义来约束事件并缩小预测范围。

    Dec, 2023

  • 逻辑与常识引导的时间知识图谱补全

    本文基于一种时间知识图谱，提出了一种同时兼顾事件因果关系和时序性的逻辑和常识指导嵌入模型（LCGE），可充分考虑事件间的同时性和时序性，并且在常识知识的基础上，通过规则引导建立谓词嵌入标准化策略，从而提高了事件预测的准确率，并且具有可解释性。

    Nov, 2022

  • 带提示的预训练语言模型用于时间知识图谱补全

    本文提出了一种基于预训练语言模型的 TKGC 模型 (PPT)，通过将时间戳之间的间隔转换为不同的提示来提取暗示的语义信息以形成连贯的句子，并使用蒙版策略将 TKGC 任务转换为蒙版标记预测任务，有效地将时间知识图中的信息整合到语言模型中，具有较高的竞争力。

    May, 2023

  • 提升大型语言模型在知识图谱补全中的性能

    利用大型语言模型（LLM）的结构感知推理能力，将知识图谱（KG）中的结构信息嵌入到 LLMs 中，从而提高 LLMs 的知识推理能力。我们提出了一种结构感知推理框架，并通过实验证明了引入结构信息对 LLMs 的知识推理能力的改进效果。

    Oct, 2023

  • 关于时间知识图谱补全的调查：分类，进展和前景

    时间知识图谱的时序特性在学术界和工业界中具有重要意义，然而，由于新知识的不断涌现、从非结构化数据中提取结构化信息的算法的薄弱性以及源数据集中信息的缺乏，时间知识图谱往往存在不完整性。因此，基于已有信息预测缺失项的任务 —— 时间知识图谱补全引起了越来越多的关注。本文综述了时间知识图谱补全方法及其细节，并包含三个主要组成部分：1）背景，涵盖了时间知识图谱补全方法的基础知识，训练所需的损失函数，以及数据集和评估协议；2）内插，通过相关可用信息估计和预测缺失元素或元素集合，进一步根据处理时间信息的方式对相关时间知识图谱补全方法进行分类；3）外推，主要关注连续时间知识图谱，并预测未来事件，然后根据所使用的算法对所有外推方法进行分类。我们进一步指出了挑战并讨论了时间知识图谱补全的未来研究方向。

    Aug, 2023

  • 利用预训练语言模型预测文本增强时序知识图中的时间间隔

    我们提出了一种名为 TEMT 的新框架，利用预训练语言模型（PLMs）来增强文本的时间性知识图谱完成。TEMT 利用存储在 PLM 参数中的知识，能够产生丰富的事实语义表示，并且对以前未见过的实体进行推广。TEMT 将 KG 中的文本和时间信息分别处理，并将它们融合以得到事实的可信度得分。与以前的方法不同，TEMT 有效捕获不同时间点之间的依赖关系，并能对未见实体进行预测。实验结果表明，TEMT 与现有技术相媲美。

    Sep, 2023