正式 - LLM：将正式语言和自然语言整合为可控制的基于 LLM 的代理人

Feb, 2024

正式 - LLM：将正式语言和自然语言整合为可控制的基于 LLM 的代理人

Formal-LLM: Integrating Formal Language and Natural Language for Controllable LLM-based Agents

Zelong Li, Wenyue Hua, Hao Wang, He Zhu, Yongfeng Zhang

TL;DR该篇论文提出了一种名为 ``Formal-LLM'' 的新型框架用于基于 LLM 的代理，通过结合自然语言的表现力和形式语言的准确性，使规划过程具有控制性，从而防止代理生成无效和不成功的计划，并且通过实验验证了该框架在任务性能上取得的超过 50% 的整体性能提升，为在规划的有效性至关重要的应用场景中更广泛地利用 LLM 提供了可能性。

Abstract

Recent advancements on large language models (llms) enable AI Agents to automatically generate and execute multi-step plans to solve complex tasks. However, since LLM's content generation process is hardly contro

large language models llms formal-llm framework plan generation controllability

发现论文，激发创造

LLM 能够正式对话吗？自动评估 LLM 在翻译和解释正式规范中的表现

利用大型语言模型 (LLMs) 将自然语言描述转换为形式化规范的能力进行了评估，提出了一种使用两个 LLMs 与现成验证程序结合的方法来自动评估其翻译能力，结果显示目前最先进的 LLMs 无法充分解决这个任务，限制了它们在复杂系统设计中的实用性。

Mar, 2024

超越自然语言：利用替代格式增强推理与沟通的 LLM

通过探索非自然语言表达的实用性，本文挑战了大型语言模型默认使用自然语言的做法，并展示了在单个语言模型推理和多智能体通信方面，让语言模型自主选择最合适的表达形式可以提高 3.3% 至 5.7% 的推理效率以及多智能体通信中高达 72.7% 的记号使用减少，并保持沟通有效性。同时，综合分析揭示了语言模型可以从有限的任务指令中设计一种格式，并且所设计的格式可以有效地在不同的语言模型之间转换。该研究还发现，语言模型决定的结构化通信格式与已建立的智能体通信语言存在显著的相似性，显示出在智能体通信中向高效、结构化通信的自然演化。

Feb, 2024

理解 LLM 智能体的规划：一项调查

将大型语言模型作为自主代理的规划模块，通过提供现有作品的分类和全面分析，讨论了任务分解、计划选择和外部模块等方向在 LLM-Agent 规划中的进展和挑战。

Feb, 2024

利用大语言模型将自然语言转换为计划目标

本研究探讨了大型语言模型是否能够将自然语言的目标翻译成结构化的计划语言。我们使用 GPT 3.5 变种进行了实验，结果表明大型语言模型更适合进行翻译而不是规划，虽然这些模型能够利用常识知识和推理填补自然语言目标中缺失的细节，但在涉及到数字或物理推理的任务中，它们可能会出现失败，并且对所使用的提示信息很敏感。

Feb, 2023

模拟中的 LLM 实验：用于数字孪生中的过程仿真参数化的大型语言模型多主体系统

本文介绍了一种新颖的多智能体系统框架设计，利用大型语言模型（LLM）自动化数字孪生中的过程模拟参数化。我们提出了一个多智能体框架，包括观测、推理、决策和总结四种类型的智能体。通过启用 LLM 智能体与模拟模型之间的动态交互，该系统可以自动探索模拟的参数化，并使用启发式推理确定一组参数以控制模拟以实现目标。所提出的方法通过将 LLM 的启发式融入模拟模型，增强了模拟模型，并通过协助复杂的决策过程，增加了对用户的友好性并减轻了用户的认知负荷。通过案例研究证明了系统的有效性和功能，并在 GitHub 存储库中提供可视化演示。

May, 2024

以人为中心的规划

创建基于 LLMs 的规划器（LLMPlan）与能够将文本约束转化为符号表示的符号规划器（SymPlan），通过自我反思的能力以及对自然语言中模糊约束的合并，LLM 基于规划器在 40 名用户的互动评估中表现出优异的用户满意度（70.5%）且不输于传统符号规划器（40.4%）的显式约束满足率。

Nov, 2023

关于将大型语言模型（LLMs）纳入自动规划和调度（APS）的前景展望

自主规划和调度是人工智能中增长最快的领域之一，本研究通过对 126 篇论文进行全面检视，调查了 LLMs 在地址规划问题的各个方面时的独特应用，并提出了八个类别：语言翻译、计划生成、模型构建、多智能体规划、交互规划、启发式优化、工具集成以及脑启发式规划，强调 LLMs 与传统符号规划器的结合展示出潜力，揭示出一种有前景的神经符号化方法。

Jan, 2024

AutoManual: 通过互动环境学习，由 LLM 代理生成指南手册

通过自动生成规则和提高适应性，AutoManual 框架使基于大型语言模型（LLM）的代理能够自主构建自身的理解并适应新的环境。在 ALFWorld 基准任务上，通过 GPT-4-turbo 和 GPT-3.5-turbo，AutoManual 显著提高了任务成功率，并生成了人可读的综合手册。

May, 2024

理解大型语言模型在自动化规划方面的能力

该研究旨在探讨大型语言模型在自动计划中的应用，研究包括使用何种预训练数据最有效、微调或提示哪种方法最有效以及大型语言模型能否进行计划综合。

May, 2023

LLM 基于代理的高层行为的形式化规范

通过提出一个简化的高级生成框架，我们旨在减轻设计和实现新代理的困难，该框架允许用户使用线性时态逻辑（LTL）指定期望的代理行为，并通过约束解码器确保产生的输出展现所需的行为，从而迅速设计、实施和尝试不同的以 LLM 为基础的代理，而不必考虑如何实现或执行。

Oct, 2023