Jun, 2024

LLM 与 GNN 互补：用于多模态图学习的 LLM 蒸馏

PDF
TL;DR利用 GALLON 框架，将 LLMs 与 GNNs 能力结合起来，通过提取多模态知识到一个统一的多层感知器模型（MLP），集成了分子的丰富文本和视觉数据与 GNNs 的结构分析能力，显著提高了分子性质预测的准确性和效率。
graph neural networksmolecular datalarge language modelsgallonmultilayer perceptron
发现论文，激发创造
  • 大型语言模型与图神经网络相遇于知识蒸馏

    通过使用 LinguGKD 框架，将大型语言模型作为教师模型和图神经网络作为学生模型，通过设计的节点分类提示来调过教师 LLM 的 Hierarchically 学习到的节点特征和学生 GNN 在潜在空间的对齐，并采用层自适应对比学习策略，提高了学生 GNN 的预测准确性和收敛速度，同时提供了更快的推理速度和更少的计算和存储需求。

    Feb, 2024

  • 大型语言模型时代的图机器学习

    在 LLMs 时代，通过综述文章，我们首先回顾了图机器学习的最新发展，然后探讨了 LLMs 如何提高图特征的质量，减少对标记数据的依赖，并解决图的异质性和分布外泛化等挑战。此外，我们研究了图如何增强 LLMs，并突出它们在 LLMs 的预训练和推理中的能力。最后，我们探讨了这个有前景的领域的各种应用和潜在的未来方向。

    Apr, 2024

  • 大规模语言模型对图的调查

    通过综述最新的最先进的用于图学习的大型语言模型，我们引入了一种新的分类方法，详细阐述了四种独特的设计，并探讨了每种框架的优势和局限性，同时强调了未来研究的潜在方向。

    May, 2024

  • 基于大型语言模型的无标签图节点分类 (LLMS)

    该文介绍了一种利用大型语言模型和图神经网络相结合的无标签节点分类方法 LLM-GNN，在小部分节点上利用语言模型进行注释，然后使用图神经网络对其余大部分节点进行预测，通过开发注释质量启发式和利用语言模型的置信度得分来选择节点，从而提高图神经网络的性能，实验证明了 LLM-GNN 的有效性。

    Oct, 2023

  • 化学 LLM 是否能从信息传递中受益

    预训练语言模型和信息传递神经网络在处理分子文本和分子科学领域展示了显著的能力。本文提出了两种策略来评估信息整合是否能增强性能：对比学习和融合，经实证分析表明，当应用于较小的分子图时，整合方法相比基准模型表现出优越性能，而当应用于大规模图时，这些整合方法并未带来性能改进。

    May, 2024

  • 训练您自己的 GNN 教师：在文本图上的图感知蒸馏

    本论文针对在文本图上学习有效节点表示的问题，提出了一种使用语言模型编码图文本信息的图神经网络和知识蒸馏机制，能够在无图情况下实现快速推理，实验结果表明，该方法在节点分类任务上具有显著优势。

    Apr, 2023

  • 探索大型语言模型在图学习中的潜力

    本文旨在探索使用大型语言模型（LLMs）进行图机器学习的潜力，特别是节点分类任务，并调查两种潜在的流程：LLMs 作为增强器和 LLMs 作为预测器。通过全面而系统的研究，我们获得了原创性观察并发现新的见解，为利用 LLMs 进行图学习提供了新的可能性和有希望的方向。

    Jul, 2023

  • 图形语言模型

    图形语言模型（GLM）集成了线性文本模型（LM）和图神经网络（GNN）的优点，同时减轻它们的弱点，在有监督和零样本情况下，在概念网络的关系分类任务上超过了基于 LM 和 GNN 的基线。

    Jan, 2024

  • 生成图分析的大型语言模型综述：查询、学习和应用

    通过研究大型语言模型在图数据上的应用，整理了现有研究中采用高级语言模型解决的图分析问题，并指出了现存挑战和未来研究方向。

    Apr, 2024

  • 通过图感知学习增强基于语言模型的协同语义推荐

    通过使用充满协作语义的交互图，我们提出了一种名为 GAL-Rec 的方法，通过模仿图神经网络（GNNs）的意图来提高语言模型驱动的推荐模型对用户 - 物品协作语义的理解能力，从而充分利用大型语言模型的学习能力，独立解决推荐系统中的复杂图形，实验证明 GAL-Rec 显著增强了协作语义的理解能力，并提高了推荐性能。

    Jun, 2024