ECCVMar, 2022
面向视觉 Transformer 的补丁相似度感知无数据量化
Patch Similarity Aware Data-Free Quantization for Vision Transformers
Zhikai Li, Liping Ma, Mengjuan Chen, Junrui Xiao, Qingyi Gu
TL;DR提出了 PSAQ-ViT,这是一种基于自注意力模块的 Patch Similarity Aware 数据无关量化框架,可以通过生成 “逼真” 样本来校准量化参数,从而实现 Vision transformers 在资源受限设备上的部署。