Jul, 2023

OmniBoost: 异构嵌入式设备在多重DNN工作负载下的吞吐量增强

TL;DR本研究提出了一种用于异构嵌入式设备的轻量级且可扩展的多DNN管理器,通过利用随机空间探索和精确的性能估计器,相比其他最先进的方法,平均吞吐量提高了4.6倍。