Nov, 2023

评估新兴 AI/ML 加速器:IPU,RDU 和 NVIDIA/AMD GPU

TL;DR本研究对商业 AI / ML 加速器进行了初步评估和比较,通过对常见 DNN 运算符和其他 AI / ML 工作负载的一系列基准评估,揭示了数据流架构相对传统处理器设计的优势和性能权衡,并为研究原型的设计和性能期望提供了有价值的参考,从而促进为不断发展的 AI / ML 应用领域量身定制的下一代硬件加速器的发展。