Sep, 2023

基于 LLM 的自主代理通过图学习释放力量

PDF
TL;DR使用大型语言模型（LLMs）作为自主代理，简化多样真实世界图的学习过程，响应用户请求并生成数据自动解决方案，涉及图数据处理、自动机器学习配置、搜索架构和超参数微调。提出的 Auto$^2$Graph 方法在不同数据集和学习任务上展现可比较的性能，代理产生类似人类决策。
发现论文，激发创造
  • 大型语言模型时代的图机器学习

    在 LLMs 时代，通过综述文章，我们首先回顾了图机器学习的最新发展，然后探讨了 LLMs 如何提高图特征的质量，减少对标记数据的依赖，并解决图的异质性和分布外泛化等挑战。此外，我们研究了图如何增强 LLMs，并突出它们在 LLMs 的预训练和推理中的能力。最后，我们探讨了这个有前景的领域的各种应用和潜在的未来方向。

    Apr, 2024

  • 可优化的图形语言代理

    人工设计的提示工程技术已经被提出来改善基于大型语言模型的问题解决方法，通过以计算图的形式来描述基于 LLM 的代理人，实现多模态数据处理或查询 LLMs，优化节点级别的 LLM 提示（节点优化）和改进代理人编排（边优化），该框架能够高效地开发、整合和自动改进各种 LLM 代理人。

    Feb, 2024

  • 大规模语言模型对图的调查

    通过综述最新的最先进的用于图学习的大型语言模型，我们引入了一种新的分类方法，详细阐述了四种独特的设计，并探讨了每种框架的优势和局限性，同时强调了未来研究的潜在方向。

    May, 2024

  • 输入条件的语言代理图生成

    基于大型语言模型的语言代理，使用图形框架构建的动态学习方法，通过强化学习进行微调，能够根据给定的输入生成内部通信表示，实现较高的准确率。

    Jun, 2024

  • GraphLLM：提升大型语言模型的图推理能力

    通过将图学习模型与大型语言模型（LLMs）有机地融合，我们介绍了 GraphLLM，一种能够使 LLMs 能够熟练解释和推理图数据的先导性端到端方法，经过多个基础图推理任务的实证评估，结果展示了平均准确率提高 54.44％以及各种图推理任务中 96.45％的显著上下文减少。

    Oct, 2023

  • 自然语言就是图的应有之义

    我们提出了 InstructGLM（指导调整的图语言模型），基于自然语言说明系统地设计高度可扩展的提示，使用自然语言描述图的几何结构和节点特征，通过指导调优语言模型以一种生成方式在图上执行学习和推理，超过了所有竞争的 GNN 基准数据集，证明了我们方法的有效性，并为将生成语言模型替代 GNN 作为图机器学习的基础模型提供了启示。

    Aug, 2023

  • 基于大型语言模型的自主代理的调查

    通过对基于大语言模型的自主代理的综合调查，本文提出了一个统一框架来概括以往研究，并总结了在社会科学、自然科学和工程领域中应用大语言模型的人工智能代理的各种应用及评估策略。同时，我们还讨论了该领域的挑战和未来方向。

    Aug, 2023

  • 生成图分析的大型语言模型综述：查询、学习和应用

    通过研究大型语言模型在图数据上的应用，整理了现有研究中采用高级语言模型解决的图分析问题，并指出了现存挑战和未来研究方向。

    Apr, 2024

  • 图中的自动化机器学习综述

    本文首次系统地综述了自动机器学习在图形上的应用，主要关注图形机器学习上的超参数优化（HPO）和神经结构搜索（NAS），以及涉及自动图形机器学习的图书馆和 AutoGL 等工具。

    Mar, 2021

  • 图结合大型语言模型的综述：现状与未来方向

    在本调查中，我们首先提出了一种新的分类法，该分类法将现有方法根据 LLMs 在图相关任务中所扮演的角色（增强器、预测器和对齐组件）分为三类，并对这三类中的代表性方法进行了系统调查。我们还讨论了现有研究的局限性，并强调了未来研究的有希望的方向。

    Nov, 2023