May, 2024

LOGIN: 一个大型语言模型咨询的图神经网络训练框架

PDF
TL;DR将大型语言模型（LLMs）与图神经网络（GNNs）相结合的互动方式（LLMs-as-Consultants）——LOGIN（LLM Consulted GNN training）框架，在节点分类任务上取得了与复杂设计的先进 GNNs 相媲美的性能，而且其基本 GNN 架构能够实现与强化设计的 GNNs 相当的性能。
graph machine learninggraph neural networkslarge language modelsllms-as-consultantslogin
发现论文，激发创造
  • 大规模语言模型对图的调查

    通过综述最新的最先进的用于图学习的大型语言模型，我们引入了一种新的分类方法，详细阐述了四种独特的设计，并探讨了每种框架的优势和局限性，同时强调了未来研究的潜在方向。

    May, 2024

  • 探索大型语言模型在图学习中的潜力

    本文旨在探索使用大型语言模型（LLMs）进行图机器学习的潜力，特别是节点分类任务，并调查两种潜在的流程：LLMs 作为增强器和 LLMs 作为预测器。通过全面而系统的研究，我们获得了原创性观察并发现新的见解，为利用 LLMs 进行图学习提供了新的可能性和有希望的方向。

    Jul, 2023

  • 图结合大型语言模型的综述：现状与未来方向

    在本调查中，我们首先提出了一种新的分类法，该分类法将现有方法根据 LLMs 在图相关任务中所扮演的角色（增强器、预测器和对齐组件）分为三类，并对这三类中的代表性方法进行了系统调查。我们还讨论了现有研究的局限性，并强调了未来研究的有希望的方向。

    Nov, 2023

  • 基于大型语言模型的无标签图节点分类 (LLMS)

    该文介绍了一种利用大型语言模型和图神经网络相结合的无标签节点分类方法 LLM-GNN，在小部分节点上利用语言模型进行注释，然后使用图神经网络对其余大部分节点进行预测，通过开发注释质量启发式和利用语言模型的置信度得分来选择节点，从而提高图神经网络的性能，实验证明了 LLM-GNN 的有效性。

    Oct, 2023

  • 大型语言模型时代的图机器学习

    在 LLMs 时代，通过综述文章，我们首先回顾了图机器学习的最新发展，然后探讨了 LLMs 如何提高图特征的质量，减少对标记数据的依赖，并解决图的异质性和分布外泛化等挑战。此外，我们研究了图如何增强 LLMs，并突出它们在 LLMs 的预训练和推理中的能力。最后，我们探讨了这个有前景的领域的各种应用和潜在的未来方向。

    Apr, 2024

  • 图上的大型语言模型：综合调查

    通过对大型语言模型在图形上的应用的详细技术和潜在场景进行系统回顾，我们总结了大型语言模型在纯图、文本丰富图和文本配对图中的优缺点，并讨论了其在真实世界应用中的方法以及开源代码和基准数据集。最后，我们提出了这一快速发展领域的潜在未来研究方向。

    Dec, 2023

  • 自然语言就是图的应有之义

    我们提出了 InstructGLM（指导调整的图语言模型），基于自然语言说明系统地设计高度可扩展的提示，使用自然语言描述图的几何结构和节点特征，通过指导调优语言模型以一种生成方式在图上执行学习和推理，超过了所有竞争的 GNN 基准数据集，证明了我们方法的有效性，并为将生成语言模型替代 GNN 作为图机器学习的基础模型提供了启示。

    Aug, 2023

  • 大型语言模型对文本属性图的拓扑结构增强

    利用大型语言模型在图学习任务中的潜力，本研究探索了如何利用信息检索和文本生成能力来提高文本属性图的拓扑结构，进而增强节点分类的性能。通过节点属性的语义相似度，采用大型语言模型来删除不可靠的边并添加可靠的边，以及利用大型语言模型生成的伪标签改善图的拓扑结构。实验证明使用大型语言模型进行图拓扑改善在公共基准测试中提升了 0.15% 至 2.47% 的性能。

    Nov, 2023

  • 基于全局上下文的 GNN 语言建模

    通过建立一个包含语料库中与输入内容相关的类语境环境节点的有向异构图，将 GNN-LM 扩展到传统的神经语言模型中（LM），并基于该图构建 GNN 网络来提高模型的泛化能力，有效地实现了对参考上下文的直接访问，展示了它在不同数据集上优于现有方法的结果（例如在 WikiText-103 上的最佳困惑度约为 14.8）。

    Oct, 2021

  • 大型语言模型与图神经网络相遇于知识蒸馏

    通过使用 LinguGKD 框架，将大型语言模型作为教师模型和图神经网络作为学生模型，通过设计的节点分类提示来调过教师 LLM 的 Hierarchically 学习到的节点特征和学生 GNN 在潜在空间的对齐，并采用层自适应对比学习策略，提高了学生 GNN 的预测准确性和收敛速度，同时提供了更快的推理速度和更少的计算和存储需求。

    Feb, 2024