Mar, 2024

StateFlow:通过状态驱动工作流提升 LLM 任务解决能力

TL;DR使用大型语言模型(LLMs)解决复杂任务的一个显著趋势是将复杂任务解决过程概念化为由 LLMs 支持的状态机。通过适当构建状态和定义状态转换,StateFlow 确保 LLMs 在任务解决过程中的响应得到明确的跟踪和管理,从而推动任务的进展。在每个状态内,StateFlow 允许执行一系列的动作,包括按照特定提示生成 LLMs 的响应以及根据需要利用外部工具。状态转换由 LLMs 做出的特定规则或决策来控制,从而实现通过预定义的 StateFlow 模型动态和自适应地推进任务。在 InterCode SQL 和 Bash 基准测试中评估结果表明,StateFlow 显著提高了 LLMs 的效率。