Dec, 2023

MAC-SQL: 文本到 SQL 的多智能体协作

PDF
TL;DR最近的文本到 SQL 方法的发展使用了大型语言模型 (LLMs)，取得了显著的性能表现。然而，这些方法在处理庞大的数据库、复杂的用户查询和错误的 SQL 结果时仍然面临困难。为了解决这些挑战，我们提出了基于 LLMs 的多智能体协作文本到 SQL 框架 MAC-SQL。该框架由三个智能体组成：Selector 负责压缩庞大的数据库并保留用户问题的相关表模式；Decomposer 将复杂的用户问题分解为更简单的子问题并逐步解决；Refiner 负责验证和完善有缺陷的 SQL 查询。我们在两个 Text-to-SQL 数据集 BIRD 和 Spider 上进行了大量实验，在 BIRD 测试集上实现了 59.59% 的最先进的执行准确率。此外，我们还开源了基于 Code Llama 7B 的指导微调模型 SQL-Llama，以及基于 BIRD 和 Spider 训练数据的代理指令数据集。SQL-Llama 模型在 BIRD 和 Spider 的开发集上展示了令人鼓舞的结果，然而与 GPT-4 模型相比，仍有显著的提升潜力。我们的代码和数据可在 https://github.com/wbbeyourself/MAC-SQL 公开访问。
text-to-sql methodslarge language modelsmac-sqlmulti-agent collaborative frameworksql-llama
发现论文，激发创造
  • 多智能体对话推荐系统

    我们提出了一种包含多个模块的多智能体对话推荐系统 (MACRS)，该系统可以通过控制对话流动以及利用用户反馈来改进推荐性能，并展示了在推荐和用户偏好收集方面相较于直接使用大型语言模型 (LLMs) 的用户交互体验的改进。

    Feb, 2024

  • MAgIC: 大型语言模型驱动的多智能体在认知、适应性、合理性和协作方面的基准测试

    这项研究介绍了一个专门用于评估大型语言模型在多主体环境中能力的基准测试框架，通过游戏和博弈论场景来创建不同的测试环境，并利用概率图模型方法增强模型的导航能力，最终量化评估了七种不同大型语言模型的能力，发现最强模型 GPT-4 和最弱模型 Llama-2-70B 之间存在三倍的能力差距，同时证实了概率图模型增强了所有模型的能力，平均提高了 50%。

    Nov, 2023

  • 大型语言模型（LLM）作为多个专家代理系统：解决抽象和推理语料库（ARC）挑战的方法

    使用大型语言模型（LLMs）作为多个专家代理系统，通过在零样本、少样本、上下文引导提示的情况下启动 LLMs 的灵活性，我们试图解决抽象和推理语料库（ARC）挑战。通过将输入图像转换为多个适合的基于文本的抽象空间，我们利用 LLMs 的联想能力推导出输入输出关系，并将其映射到工作程序形式的行动，类似于 Voyager / Ghost in the MineCraft。此外，我们使用迭代环境反馈来指导 LLMs 解决任务。我们的方法在训练集问题的 111 个问题中实现了 50 个解决方案（45%），仅使用三个抽象空间 - 网格、对象和像素。我们相信通过更多的抽象空间和可学习的行动，我们将能够解决更多问题。

    Oct, 2023

  • 跨团队合作的多智能体软件开发

    通过引入跨团队合作（CTC）框架，实现协同的团队制定各种决策并在跨团队合作环境中进行沟通，从而提高软件开发中的质量，展示了多智能体合作的潜力和广泛适应性。

    Jun, 2024

  • L2MAC：大型语言模型自动计算机无限编码生成

    Transformer-based language models are limited by a fixed window size, but this paper proposes L2MAC, a memory-augmented stored-program automatic computer that can generate long and consistent code surpassing the limitations of the context window, fulfilling complex user-specified requirements.

    Oct, 2023

  • 多智能体混合增强大型语言模型能力

    利用大型语言模型的集体优势，提出了一种基于多代理的混合方法，该方法在多个任务上取得了领先的性能，特别在 AlpacaEval 2.0 上实现了 65.1% 的得分，超过了 GPT-4 Omni 的 57.5%。

    Jun, 2024

  • 多智能体协作：发挥智能 LLM 代理的力量

    本文提出了一种通过多智能体系统来增强大型语言模型（LLMs）能力的新框架，并通过人工智能领域的案例研究展示了这一框架的实用性和多样性。

    Jun, 2023

  • 大型语言模型在扩展口语理解系统到新语言方面的应用

    介绍了一种使用大型语言模型进行机器翻译的流水线，用于扩展语音助手系统的口语理解模型，提高了多语言场景和设备本地场景下的整体准确率。

    Apr, 2024

  • 将竞争转变为合作：多智能体系统与语言模型在现代组织中的革命性作用

    本文探讨了基于多代理系统理论（SMA）与大型语言模型（LLM）的计算实体的动态影响，这些实体的特点是能够模拟复杂的人类互动，作为一种从使用专门的人工代理支持运营业务流程到基于应用知识和人类编排的战略决策的革命可能性。我们展示了利用基于大型语言模型（LLM）的代理开发，通过考虑行为元素并由策略驱动，从而刺激基于使用案例在商业场景中生成知识的能力，利用代理之间的讨论方法（引导式对话），为组织战略提供潜力，基于多代理系统理论（SMA）和创新的大型语言模型（LLM）的应用，为不同的应用、复杂性、领域和 LLM 的能力提供了一种不同和可适应的实验。

    Mar, 2024

  • 大型多模态代理：综述

    大型语言模型在多媒体领域的研究和发展方向的全面回顾，介绍了大型多媒体代理的开发要素和分类，评估方法的编制以及未来研究方向的提出。

    Feb, 2024