Jan, 2024

当大型语言模型遇上 6G 网络:感知、基础和对齐

TL;DR利用移动设备和边缘服务器之间的协作,我们提出了一个用于 6G 网络中的 LLM 代理的分裂学习系统,其中具有不同角色的多个 LLM 代理分布在移动设备和边缘服务器上以协同执行用户代理交互任务。此外,我们引入了一种新颖的模型缓存算法,以提高上下文中的模型利用率,从而降低协作移动和边缘 LLM 代理的网络成本。