Jun, 2023

Shoggoth:通过自适应在线学习实现高效的边缘 - 云协同实时视频推理

TL;DR本文提出了 Shoggoth,一种高效的边缘云协作架构,用于提高实时视频推理性能。Shoggoth 使用在线知识蒸馏来提高受数据漂移影响的模型的准确性,并将标记过程卸载到云端,减轻边缘设备的资源约束。在边缘端,我们使用小批量来进行自适应训练以适应有限的计算资源,并使用自适应采样来提高鲁棒性并降低带宽。对实际数据集的评估显示,与仅使用边缘策略相比,模型准确性提高了 15%-20%,网络成本也低于仅使用云策略。