本文旨在探索使用大型语言模型（LLMs）进行图机器学习的潜力，特别是节点分类任务，并调查两种潜在的流程：LLMs作为增强器和LLMs作为预测器。通过全面而系统的研究，我们获得了原创性观察并发现新的见解，为利用LLMs进行图学习提供了新的可能性和有希望的方向。

Jul, 2023

通过Disentangled Graph-Text Learner (DGTL) 模型，结合图结构信息和大型语言模型，提升了对文本属性图的推理能力和预测能力，并且通过提供自然语言解释来显著提高模型的解释性。

Oct, 2023

利用大型语言模型和图表示学的集成标志着复杂数据结构分析的重大进展，通过利用LLM的先进语言能力来改善图模型的上下文理解和适应性，从而拓宽了GRL的范围和潜力。本研究通过提出一种新颖的分类法，深入分析了LLM与GRL之间的核心组成部分和操作技术，填补了目前缺乏的综述研究。我们进一步将近期文献分解为两个主要组成部分，包括知识提取器和整理器，以及两种操作技术，包括集成和训练策略，以揭示有效的模型设计和训练策略，并探讨了这一新兴但尚未充分探索的领域的潜在未来研究方向，为持续进展提出了路径。

Feb, 2024

通过综述最新的最先进的用于图学习的大型语言模型，我们引入了一种新的分类方法，详细阐述了四种独特的设计，并探讨了每种框架的优势和局限性，同时强调了未来研究的潜在方向。

May, 2024

RoSE是一个利用大型语言模型自动将文本属性分解成轮廓性语义关系的框架，在各种数据集上显著提高了节点分类性能，最高可达16％。

May, 2024

使用Simplified Text-Attributed Graph Embeddings (STAGE)方法来增强编码文本属性图的图神经网络模型中的节点特征。STAGE利用大型语言模型生成文本属性的嵌入，实现了在各种节点分类基准测试中具有竞争力的结果，同时相对于当前最先进的技术实现上也保持了简单性。我们展示了利用预训练的大型语言模型作为嵌入生成器为集成图神经网络训练提供了稳定的特征，从而使得我们的流程比当前需要多个昂贵的训练和提示阶段的最先进方法更简化。我们还实现了扩展模式图神经网络，以使这个流程适用于超过学术基准的图结构。

Jul, 2024

该研究解决了文本图表示学习中有效提取结构和文本信息的不足。提出的节点级图自编码器（NodeGAE）框架，通过语言模型进行预训练并加入局部图结构的辅助损失，简化训练过程并提升了通用性。实验结果显示，该方法显著提高了多种图神经网络在节点分类和链接预测任务中的表现。

Aug, 2024

本研究解决了文本图表示学习中传统方法无法有效捕捉结构和文本信息的问题。提出了一种新的统一无监督学习框架节点级图自编码器（NodeGAE），通过语言模型进行预训练，并增加辅助损失项以关注局部图结构。实验结果表明，该方法显著提升了多种图神经网络在文本图数据集上的性能。

Aug, 2024

本研究解决了传统图神经网络在处理文本属性图时缺乏可解释性和深层语义理解的问题。提出的可解释图表示学习(VGRL)方法通过用文本描述限制参数空间，实现全面可解释性，有助于用户理解模型决策。实证研究表明，该方法为图表示学习提供了新的方向和基础。

Oct, 2024

本研究解决了图表示学习中常见的噪声问题，提出了LangGSL框架，整合了预训练语言模型和图结构学习模型的优势，提升了节点特征和图结构学习的效果。研究表明，通过互学习和相互补充，这一方法显著增强了节点嵌入和全局上下文，从而提高了模型的整体性能。

Oct, 2024