Mar, 2024

K-Link: 基于 LLMs 的知识链接图在多变量时间序列数据的增强表示学习中的应用

PDF
TL;DR使用大型语言模型构建知识链接图，并通过图对齐模块将知识链接图的语义知识转化为基于多元时间序列数据构建的图，以提高图质量，并确保图神经网络在多元时间序列数据的表示学习中具备有效性，并通过大量实验证明了该方法在多元时间序列相关任务中的卓越性能。
multivariate time-series datagraph neural networkslarge language modelsknowledge-link graphrepresentation learning
发现论文，激发创造
  • 多元时间序列数据的全连接时空图

    提出了一种名为全连接时空图神经网络（FC-STGNN）的新方法，通过将传感器之间的相关性考虑为不同时间戳下的相关性，来全面建模多元时间序列数据中的时空依赖关系，并有效地捕捉和学习有效的表示，实验证明其在多个多元时间序列数据集上相对于其他方法具有有效性。

    Sep, 2023

  • 知识图谱大规模语言模型（KG-LLM）用于链接预测

    通过使用链式思维促进和上下文学习，该研究介绍了一种新方法，即知识图大型语言模型框架（KG-LLM），以提高知识图中多跳链接预测的效果。实验证明，集成上下文学习和链式思维不仅增加了方法的性能，而且显著提高了模型的泛化能力，从而在陌生情境中实现更准确的预测。

    Mar, 2024

  • 基于 LMM 的教育问答系统的跨数据知识图构建：以 HCMUT 为案例研究

    通过结合大型语言模型（LLMs）和知识图谱（KGs），本研究论文提出了一种自动构建知识图谱的方法，并讨论了在数字教育环境中，LLMs 与 KGs 结合在问答任务中的初步应用。

    Apr, 2024

  • 学习时态知识图谱推理的多图结构

    提出一种创新的推理方法，重点关注时间知识图推理中的多图结构学习，以捕捉并发结构和演化交互，并融入时间语义来约束事件并缩小预测范围。

    Dec, 2023

  • MTS2Graph: 具有时间演化图的可解释性多变量时间序列分类

    本文介绍了一种新的框架，通过提取和聚类高度激活 CNN 神经元的输入表征模式来解释多元时间序列数据，以捕获输入信号的作用和依赖关系，并构建一个捕获每层提取模式的时间关系的图形，最后使用图形嵌入算法生成可解释的时间序列特征表示。通过在 8 个 UCR/UEA 归档数据集以及 HAR 和 PAM 数据集上运行广泛的实验，证明了我们的时间感知基于图形的表征在 MTS 分类中具有明显优势，并丰富了它们的可解释性。

    Jun, 2023

  • 统一大型语言模型和知识图谱：路线图

    本文提出了使用知识图谱和大型语言模型的三种框架，分别为增强了的知识图谱、增强了的大型语言模型和协同增强。这三个框架能够互相协作，实现双向推理，提高自然语言处理和人工智能的表现，同时指出未来的研究方向。

    Jun, 2023

  • 历史链条：通过 LLMs 进行时态知识图完善的学习和预测

    本论文提出了一种新颖的方法，将时间链接预测视为历史事件链中的事件生成任务，并通过有效的微调方法将 LLMs 适应特定的图文本信息和时间线中发现的模式。此外，我们引入了基于结构的历史数据增强和逆向知识的整合，以强调 LLMs 对结构信息的认知，从而提高其推理能力。通过在多个广泛使用的数据集上进行彻底的实验，我们发现我们的微调模型在多个度量标准上优于现有的基于嵌入的模型，达到了最先进水平，并进行了充分的消融实验，探索 LLMs 在执行结构化时间知识推断任务时的关键影响因素。

    Jan, 2024

  • KGLM: 将知识图谱结构整合到语言模型中进行链接预测

    提出了一种名为 KGLM 的知识图谱语言模型结构，该结构通过引入新的实体 / 关系嵌入层来学习区分不同的实体和关系类型，从而允许模型学习知识图谱的结构，并通过对知识图谱中提取的三元组进行附加培训，跟随标准的微调阶段，取得了基准数据集上的链接预测任务的最新性能。

    Nov, 2022

  • 图形语言模型

    图形语言模型（GLM）集成了线性文本模型（LM）和图神经网络（GNN）的优点，同时减轻它们的弱点，在有监督和零样本情况下，在概念网络的关系分类任务上超过了基于 LM 和 GNN 的基线。

    Jan, 2024

  • 用图神经网络连接点：多元时间序列预测

    该研究提出了一种面向多变量时间序列数据的图神经网络框架，采用图学习模块提取自动生成的变量之间的关系，同时运用新颖的混合传递和膨胀创新层捕捉时间序列中的空间和时间相关性，而这些模块被联合学习在一个端对端框架中。实验结果表明，该模型的性能在 3 个基准数据集上优于现有最先进方法，并在提供额外结构信息的两个交通数据集上实现了与其他方法相当的性能。

    May, 2020