Jul, 2024
基于知识蒸馏和量化的边缘设备统一异常检测方法
Unified Anomaly Detection methods on Edge Device using Knowledge
Distillation and Quantization
TL;DR在工业4.0中，随着深度学习和智能制造的快速发展，高吞吐量、高性能和完全集成的视觉检测系统呼之欲出。我们的实验研究表明，多类模型在标准MVTec AD数据集上的性能与单类模型相当，进一步证明了当物体类别之间差异显著时，学习单独的物体/类别模型可能是不必要的。我们还通过在CPU和边缘设备（NVIDIA Jetson Xavier NX）上部署三种不同的统一轻量级架构来分析量化的多类异常检测模型在边缘设备上的延迟和内存需求，并比较了量化感知训练（QAT）和后训练量化（PTQ）在不同精度位宽下的性能。此外，我们探索了后训练场景中所需的两种不同的校准方法，并且表明其中一种性能明显更好，突出了它在无监督任务中的重要性。由于量化，PTQ的性能下降通过QAT得到进一步补偿，在考虑的两种模型中，QAT以与原始32位浮点数相当的性能呈现。