桥接大型语言模型与图结构学习模型以实现稳健的表示学习

Oct, 2024

桥接大型语言模型与图结构学习模型以实现稳健的表示学习

Bridging Large Language Models and Graph Structure Learning Models for Robust Representation Learning

Guangxin Su, Yifan Zhu, Wenjie Zhang, Hanchen Wang, Ying Zhang

TL;DR本研究解决了图表示学习中常见的噪声问题，提出了LangGSL框架，整合了预训练语言模型和图结构学习模型的优势，提升了节点特征和图结构学习的效果。研究表明，通过互学习和相互补充，这一方法显著增强了节点嵌入和全局上下文，从而提高了模型的整体性能。

Abstract

Graph Representation Learning, involving both node features and graph structures, is crucial for real-world applications but often encounters pervasive noise. State-of-the-art methods typically address noise by focusing separately on node features with →

发现论文，激发创造

OpenGSL：图结构学习的全面基准

这篇论文介绍了OpenGSL，这是第一个全面的Graph Structure Learning基准，旨在通过评估出现在各种流行数据集，以及使用统一数据处理和分割策略的最新GSL方法之间的公平比较，缩小研究进展存在的差距。

Jun, 2023

LLM是否能够有效利用结构信息进行图学习：何时以及为什么

该研究探讨了大型语言模型（LLMs）在结构化数据（尤其是图形）上的应用，旨在理解何时以及为何将图形数据中固有的结构信息纳入到LLMs的节点分类任务中可以提高预测性能。

Sep, 2023

大规模语言模型推动图表示学习的进展：技术综述

利用大型语言模型和图表示学的集成标志着复杂数据结构分析的重大进展，通过利用LLM的先进语言能力来改善图模型的上下文理解和适应性，从而拓宽了GRL的范围和潜力。本研究通过提出一种新颖的分类法，深入分析了LLM与GRL之间的核心组成部分和操作技术，填补了目前缺乏的综述研究。我们进一步将近期文献分解为两个主要组成部分，包括知识提取器和整理器，以及两种操作技术，包括集成和训练策略，以揭示有效的模型设计和训练策略，并探讨了这一新兴但尚未充分探索的领域的潜在未来研究方向，为持续进展提出了路径。

Feb, 2024

通向多功能图学习方法：基于大型语言模型的视角

本文提出了一种使用大型语言模型设计多功能图学习方法的新概念原型，重点关注了“在哪里”和“如何”的角度，总结了四个关键的图学习过程，并探索了大型语言模型在这些过程中的应用场景，最后指出了更好利用大型语言模型的发展方向。

Feb, 2024

GraphEdit: 大规模语言模型用于图结构学习

通过使用大型语言模型来学习图结构数据中的复杂节点关系，GraphEdit方法无论在去噪连接还是从全局角度识别节点依赖方面都提供了全面的图结构理解，有效克服了显式图结构信息的局限性，增强了图结构学习的可靠性。

Feb, 2024

大规模语言模型对图的调查

通过综述最新的最先进的用于图学习的大型语言模型，我们引入了一种新的分类方法，详细阐述了四种独特的设计，并探讨了每种框架的优势和局限性，同时强调了未来研究的潜在方向。

May, 2024

LangTopo: 利用分词的拓扑建模将图形的语言描述对齐

该论文介绍了一种新的框架LangTopo，通过构建代码簿量化了GNN和LLM的图结构建模能力，并通过一致性最大化的过程将LLM的文本描述与GNN的拓扑建模对齐，使LLM能够学习捕捉图结构的能力，从而能够独立处理图结构化数据。通过在多个数据集上展示我们提出的方法的有效性。

Jun, 2024

基于大型语言模型的可解释图表示学习

本研究解决了传统图神经网络在处理文本属性图时缺乏可解释性和深层语义理解的问题。提出的可解释图表示学习(VGRL)方法通过用文本描述限制参数空间，实现全面可解释性，有助于用户理解模型决策。实证研究表明，该方法为图表示学习提供了新的方向和基础。

Oct, 2024

可解释的图表示学习：基于大型语言模型的完整过程的图模型

本研究解决了传统图神经网络在处理文本属性图时缺乏完备可解释性的问题。提出了一种新的可语言化图表示学习方法（VGRL），通过限制参数空间为文本描述，实现了全程可解释性。实验结果表明，VGRL方法能够有效提升图表示学习的透明度和信任度，为该领域的应用提供了新的思路。

Oct, 2024

NT-LLM：一种新颖的节点标记器，用于将图结构整合到大型语言模型中

本研究解决了大型语言模型在处理图形任务时无法捕捉复杂结构信息的挑战。提出了一种新颖的节点标记器NT-LLM，通过选择关键节点并基于相对距离进行编码，能够有效捕捉图形拓扑信息，显著提高模型的推理能力和性能。这一方法具有更好的实用性和应用潜力。

Oct, 2024