Sep, 2024

微小智能体:边缘函数调用

TL;DR本研究针对大规模语言模型在边缘部署中的不足,提出了TinyAgent框架,旨在培养和部署小型语言模型代理以进行函数调用。研究表明,TinyAgent-1.1B和7B模型的函数调用能力超过了诸如GPT-4-Turbo等较大模型,在边缘计算中表现出色,具有显著的应用潜力。