IJCAINov, 2021
FQ-ViT: 完全量化视觉 Transformer 的后训练量化
FQ-ViT: Post-Training Quantization for Fully Quantized Vision Transformer
Yang Lin, Tianyu Zhang, Peiqin Sun, Zheng Li, Shuchang Zhou
TL;DR本研究开发了基于 Power-of-Two Factor(PTF)和 Log-Int-Softmax(LIS)的技术来简化全量化视觉 Transformer 的推理复杂度,并应用于各种基于 Transformer 的体系结构和基准测试中,以达到更高的性能。