integer-only arithmetic | BriefGPT

关键词integer-only arithmetic

搜索结果 - 5

ICML使用仅限整数离散流的快速无损神经压缩
本文提出了一种基于离散流和整数运算的高效神经压缩器，使用可学习的二进制门来消除推理过程中的冗余滤波器，在 ImageNet32 和 ImageNet64 上保持高压缩比的同时，使用 IODF 在 GPU 上的 TensorRT 实现实现推理
PDF2 years ago
整数算术认证量化神经网络的健壮性
该论文提出了一种整数随机平滑方法与量化方法，可以将任何分类器转换为新的平滑分类器，使用整数算术对抗扰动具有认证的鲁棒性，并在 L2 范数下证明了严格的鲁棒性保证。在 CIFAR-10 和 Caltech-101 上的两个不同数据集上，我们的
PDF3 years ago
I-BERT：仅限整数的 BERT 量化
本研究提出了一种新的基于整数的 Transformer 模型量化方案 I-BERT，使用轻量级整数逼近方法进行端到端的 Bert 推理，无需浮点计算，相较于全精度基准实现在准确率上相当甚至略有提高，同时在 T4 GPU 系统上进行 8 位整
PDF4 years ago
CVPRAQD: 实现精确量化目标检测
本文提出了一种名为 AQD 的准确量化目标检测解决方案，采用包括卷积层、归一化层和跳跃连接在内的所有层的定点运算，在极低位方案下实现与全精度方案相媲美甚至更好的性能表现。
PDF4 years ago
神经网络的量化和训练，用于高效的整数运算推理
本文提出了一种量化方案，通过整数运算进行推断，以提高在移动设备上的效率，并设计了一种训练程序来维护量化后的模型精度。该方案在 MobileNets 模型中展现了显著的改进，在 ImageNet 分类和 COCO 检测等任务上获得了良好的结果
PDF7 years ago