Text-And-Graph Multi-View Alignment (TAGA) is a self-supervised learning framework that integrates Text-Attributed Graphs (TAGs), enabling efficient training and strong performance in zero-shot and few-shot scenarios across multiple datasets.

May, 2024

介绍了 Textual-Edge Graphs Datasets and Benchmark (TEG-DB) 项目，它是一个包含丰富文本描述在节点和边上的大规模文本边缘数据集，并通过广泛的基准实验证明当前技术，包括预训练语言模型、图神经网络及其组合，可以有效利用文本节点和边缘信息来增强图分析并提供关于复杂真实世界网络的更深入洞察。

Jun, 2024

本研究通过语言监督来改善视图生成，介绍了 GAugLLM 框架，利用先进的大型语言模型（如 Mistral）增强自监督图学习，通过混合提示专家技术生成增强的节点特征，以及协作边修饰器来增强边的生成。实验结果表明，该框架可以作为插件工具增强领先的对比方法的性能，同时也能增强标准生成方法和流行的图神经网络的性能。

Jun, 2024

动态文本属性图（DyTAGs）广泛应用于各种真实场景，在其中每个节点和边缘都与文本描述相关联，且图结构和文本描述均随时间变化。为了填补这一空白，我们介绍了动态文本属性图基准（DTGB），这是一个从不同领域的大规模、时间演化的图集合，其中的节点和边缘由动态变化的文本属性和类别丰富。为了促进 DTGB 的使用，我们设计了基于四个真实用例的标准化评估过程：未来链接预测、目标节点检索、边缘分类和文本关系生成。这些任务要求模型理解动态图结构和自然语言，突出了 DyTAGs 所带来的独特挑战。此外，我们对 DTGB 进行了广泛的基准实验，评估了 7 种流行的动态图学习算法及其用于自适应文本属性的 LLM 嵌入的变体，以及 6 个强大的大语言模型（LLMs）。结果显示了现有模型在处理 DyTAGs 方面的局限性。我们的分析还展示了 DTGB 在研究结构和文本动态性融合方面的实用性。提出的 DTGB 促进了 DyTAGs 及其广泛应用的研究。它为评估和推进处理动态图结构和自然语言之间相互作用的模型提供了全面的基准。数据集和源代码可在此链接获取。

Jun, 2024

本研究提出了使用大型语言模型和图模型相结合的方法来学习文本属性图 (TAG)，通过将大型语言模型的能力提取到本地图模型上，以解决大型语言模型的可扩展性、成本和隐私问题，并通过丰富的文本理由教授解释器，然后让学生模型模仿解释器的推理来弥补大型语言模型和图模型之间的固有差距。通过广泛实验证明了该方法的有效性。

Feb, 2024

通过 Disentangled Graph-Text Learner (DGTL) 模型，结合图结构信息和大型语言模型，提升了对文本属性图的推理能力和预测能力，并且通过提供自然语言解释来显著提高模型的解释性。

Oct, 2023

通过自我监督的对比学习方法，我们介绍了一种新颖的统一图语言模型 (UniGLM) 框架，用于在多个领域和规模上进行多个文本 - 属性图 (Tag) 的联合微调，实现更好的泛化和转移学习能力。

Jun, 2024

RoSE 是一个利用大型语言模型自动将文本属性分解成轮廓性语义关系的框架，在各种数据集上显著提高了节点分类性能，最高可达 16％。

May, 2024

本文通过变分 EM 算法提出了一种名为 GLEM 的高效文本 - 图像学习方法，该方法将大规模语言模型和图神经网络结构有效地融合，实现在大型文本 - 图像图模型上的学习。

Oct, 2022

通过提出一种新颖高效的方法 LEADING，实现了对大型语言模型在文本属性图（TAGs）上的端到端微调，具有比现有方法更高的计算和数据效率，为一系列大型语言模型和基于 TAGs 的图学习任务提供了有前景的解决方案。

Dec, 2023