ICLROct, 2022

通过变分推断在大规模文本属性图上进行学习

PDF
TL;DR本文通过变分 EM 算法提出了一种名为 GLEM 的高效文本 - 图像学习方法，该方法将大规模语言模型和图神经网络结构有效地融合，实现在大型文本 - 图像图模型上的学习。
text-attributed graphsgraph neural networkslarge language modelsvariational expectation-maximizationlearning
发现论文，激发创造
  • 在图上高效微调大规模语言模型

    通过提出一种新颖高效的方法 LEADING，实现了对大型语言模型在文本属性图（TAGs）上的端到端微调，具有比现有方法更高的计算和数据效率，为一系列大型语言模型和基于 TAGs 的图学习任务提供了有前景的解决方案。

    Dec, 2023

  • 大规模语言模型蒸馏用于文本属性图学习

    本研究提出了使用大型语言模型和图模型相结合的方法来学习文本属性图 (TAG)，通过将大型语言模型的能力提取到本地图模型上，以解决大型语言模型的可扩展性、成本和隐私问题，并通过丰富的文本理由教授解释器，然后让学生模型模仿解释器的推理来弥补大型语言模型和图模型之间的固有差距。通过广泛实验证明了该方法的有效性。

    Feb, 2024

  • GAugLLM：使用大型语言模型改进文本属性图的图对比学习

    本研究通过语言监督来改善视图生成，介绍了 GAugLLM 框架，利用先进的大型语言模型（如 Mistral）增强自监督图学习，通过混合提示专家技术生成增强的节点特征，以及协作边修饰器来增强边的生成。实验结果表明，该框架可以作为插件工具增强领先的对比方法的性能，同时也能增强标准生成方法和流行的图神经网络的性能。

    Jun, 2024

  • 利用大型语言模型强化文本属性图学习

    通过采用轻量级范式 ENG 以 Large Language Models 为基础，增强文本属性的图数据，包括通过节点生成使用 LLMs 提取语义信息和生成样本，以及通过边缘预测器将新生成的样本与原始图结合，从而在少样本情况下促进节点分类任务。

    Oct, 2023

  • UniGLM：文本属性图的统一语言模型训练

    通过自我监督的对比学习方法，我们介绍了一种新颖的统一图语言模型 (UniGLM) 框架，用于在多个领域和规模上进行多个文本 - 属性图 (Tag) 的联合微调，实现更好的泛化和转移学习能力。

    Jun, 2024

  • 利用大型语言模型进行文本属性图的解耦合表示学习

    通过 Disentangled Graph-Text Learner (DGTL) 模型，结合图结构信息和大型语言模型，提升了对文本属性图的推理能力和预测能力，并且通过提供自然语言解释来显著提高模型的解释性。

    Oct, 2023

  • 大型语言模型对文本属性图的拓扑结构增强

    利用大型语言模型在图学习任务中的潜力，本研究探索了如何利用信息检索和文本生成能力来提高文本属性图的拓扑结构，进而增强节点分类的性能。通过节点属性的语义相似度，采用大型语言模型来删除不可靠的边并添加可靠的边，以及利用大型语言模型生成的伪标签改善图的拓扑结构。实验证明使用大型语言模型进行图拓扑改善在公共基准测试中提升了 0.15% 至 2.47% 的性能。

    Nov, 2023

  • 语言和图神经网络模型的高效有效训练

    本文提出了一种有效的框架，称为语言模型图神经网络 (LM-GNN)，通过分阶段的 BERT 模型微调来结合异构图结构与文本，以便在多项监督学习任务中实现节点和边分类以及链接预测，并在不同的数据集上评估了这个框架且在一个亚马逊搜索 - 购买 - 产品的应用中提供了有竞争力的结果。

    Jun, 2022

  • TAGA：基于图和文本相互转换的自监督学习

    Text-And-Graph Multi-View Alignment (TAGA) is a self-supervised learning framework that integrates Text-Attributed Graphs (TAGs), enabling efficient training and strong performance in zero-shot and few-shot scenarios across multiple datasets.

    May, 2024

  • 将解释作为特征：基于 LLM 的文本属性图特征

    该论文的主要研究方向是在图神经网络中利用自然语言处理模型来提高文本理解能力，并将其作为图结构的特征以提高下游任务的性能。通过在多个数据集上的实验证明，采用该方法在一定程度上提升了图神经网络模型的表现。

    May, 2023