Mar, 2024

FLAP: 基于有约束解码的流跟随规划在 LLMs 中

TL;DR通过预定义的工作流程和 API 依赖关系,基于先知启发式的受限解码算法提供了对面向任务对话中的忠诚规划的研究,优于其他解码和提示为基础的基准,并且在较小的 LLMs(7B)上应用我们的算法,实现了与更大的 LLMs(30B-40B)相当的性能。