Sep, 2019
使用 8 位整数训练高性能和大规模深度神经网络
Training High-Performance and Large-Scale Deep Neural Networks with Full 8-bit Integers
Yukuan Yang, Shuang Wu, Lei Deng, Tianyi Yan, Yuan Xie...
TL;DR本文提出了一种名为 WAGEUBN 的统一完整量化框架,可将神经网络的数据路径(包括所有数据类型 W,A,G,E,U 和 BN)中所有数据转换为低位整数以实现全面量化和在线训练,并在 ImageNet 数据集上获得了可比较的精度,展示了在大规模 DNNs 中 8 位 INT 级别的完整量化的功能性。