Mar, 2024

基于大型语言模型和图结构理解的细粒度合成流数据对抗数据稀疏

PDF
TL;DR提出了一种细粒度的流式数据综合框架，将稀疏用户分类为中尾、长尾和极端用户，并设计了 LLMs 来全面理解流式数据中的三个关键图元素，包括局部 - 全局图理解、二阶关系提取和产品属性理解，从而生成高质量的合成数据以有效应对不同类别的稀疏性。实验结果表明，在三个真实数据集上，通过合成数据显著提高了性能，MSE 分别减少了 45.85％，3.16％和 62.21％。
发现论文，激发创造
  • 大型语言模型对文本属性图的拓扑结构增强

    利用大型语言模型在图学习任务中的潜力，本研究探索了如何利用信息检索和文本生成能力来提高文本属性图的拓扑结构，进而增强节点分类的性能。通过节点属性的语义相似度，采用大型语言模型来删除不可靠的边并添加可靠的边，以及利用大型语言模型生成的伪标签改善图的拓扑结构。实验证明使用大型语言模型进行图拓扑改善在公共基准测试中提升了 0.15% 至 2.47% 的性能。

    Nov, 2023

  • DynLLM: 大规模语言模型遇上动态图推荐

    本文提出了一种名为 DynLLM 的新框架，利用大型语言模型解决动态图推荐任务，通过生成基于丰富文本特征的用户多维度画像，并利用时间图嵌入和精细化的关注机制来融合用户画像和动态图嵌入，以实现对持续时间动态图的无缝集成和改进，实验证实了 DynLLM 在电子商务领域的卓越性能。

    May, 2024

  • 超越文本：深入研究大型语言模型对理解图数据的能力

    在该研究中，我们通过对大型语言模型在图预测任务的性能进行实验，评估它们是否能有效处理图数据并利用拓扑结构提高性能；通过与专门的图神经网络进行比较，我们对大型语言模型在图分析中的优势和局限性提供了见解，并为将它们应用于图分析提供了进一步的探索方向。

    Oct, 2023

  • 基于图卷积的大型语言模型用于推荐

    利用大型语言模型来改进描述文本的办法受到了研究者的关注，本论文提出了一种基于图卷积的大型语言模型方法，通过捕捉用户 - 物品图中的高阶关系来改进描述文本。在真实世界的数据集上进行了广泛的实验，结果表明我们的方法始终优于现有的最先进方法。

    Feb, 2024

  • 图上的大型语言模型：综合调查

    通过对大型语言模型在图形上的应用的详细技术和潜在场景进行系统回顾，我们总结了大型语言模型在纯图、文本丰富图和文本配对图中的优缺点，并讨论了其在真实世界应用中的方法以及开源代码和基准数据集。最后，我们提出了这一快速发展领域的潜在未来研究方向。

    Dec, 2023

  • 通过图表示学习，理解关于大型语言模型的综述论文分类

    我们开发了一种方法来自动将调查论文分配给一个分类体系，在 144 篇大型语言模型调查论文的元数据的基础上，我们探索了三种范式来分类分类体系中的论文。我们的研究表明，在两种范式中，利用共同类别图的图结构信息可以明显优于语言模型。我们发现我们的模型超过了人类的平均识别水平，而使用由较小模型生成的弱标签进行大型语言模型的微调，如本研究中的 GCN，比使用地面真实标签更有效，揭示了在分类任务中从弱到强的泛化潜力。

    Feb, 2024

  • 生成图分析的大型语言模型综述：查询、学习和应用

    通过研究大型语言模型在图数据上的应用，整理了现有研究中采用高级语言模型解决的图分析问题，并指出了现存挑战和未来研究方向。

    Apr, 2024

  • 大规模语言模型对图的调查

    通过综述最新的最先进的用于图学习的大型语言模型，我们引入了一种新的分类方法，详细阐述了四种独特的设计，并探讨了每种框架的优势和局限性，同时强调了未来研究的潜在方向。

    May, 2024

  • 图结合大型语言模型的综述：现状与未来方向

    在本调查中，我们首先提出了一种新的分类法，该分类法将现有方法根据 LLMs 在图相关任务中所扮演的角色（增强器、预测器和对齐组件）分为三类，并对这三类中的代表性方法进行了系统调查。我们还讨论了现有研究的局限性，并强调了未来研究的有希望的方向。

    Nov, 2023

  • 大规模语言模型蒸馏用于文本属性图学习

    本研究提出了使用大型语言模型和图模型相结合的方法来学习文本属性图 (TAG)，通过将大型语言模型的能力提取到本地图模型上，以解决大型语言模型的可扩展性、成本和隐私问题，并通过丰富的文本理由教授解释器，然后让学生模型模仿解释器的推理来弥补大型语言模型和图模型之间的固有差距。通过广泛实验证明了该方法的有效性。

    Feb, 2024