quantization scheme | BriefGPT

关键词quantization scheme

搜索结果 - 7

使用抖动进行通信高效的隐私联邦学习
在受信任的聚合器模型中，通过在客户端使用基于减法抖动的量化方案，我们提出了一种既能保护隐私又能确保高效通信的解决方案，实现了两个目标的同时。我们证明了这种方案在复制聚合器中常规噪声添加过程方面的有效性。这意味着与传输完整精度梯度并使用中心噪
PDF10 months ago
ICML具双向量化通信与缓存聚合的异步联邦学习
QAFeL 是一种新的算法，提出了一种量化方案，通过建立服务器和客户端之间的共享 “隐藏” 状态，避免直接量化导致的误差传播，从而高精度地减少客户端和服务器之间传输的数据量。该算法在理论上具有收敛保证，并通过标准基准上的实验证明了我们的分析
PDFa year ago
DeepCABAC：一种适用于深度神经网络的通用压缩算法
DeepCABAC 是一种压缩深度神经网络的新算法，它利用基于上下文的自适应二进制算术编码器（CABAC）进行编码，并使用一种新颖的量化方案来最小化速率失真函数并考虑到量化对网络精度的影响。实验结果表明，DeepCABAC 在神经网络压缩方
PDF5 years ago
量化卷积神经网络以用于低功耗高吞吐量推理引擎
本文提出了一种量化方案，通过在参考浮点模型上校准而不是重新训练来确定量化方案参数，从而实现了基于更高效的算术进行推理，并且在量化后的结果中，终端到终端精度可与基准模型相当。
PDF6 years ago
神经网络的量化和训练，用于高效的整数运算推理
本文提出了一种量化方案，通过整数运算进行推断，以提高在移动设备上的效率，并设计了一种训练程序来维护量化后的模型精度。该方案在 MobileNets 模型中展现了显著的改进，在 ImageNet 分类和 COCO 检测等任务上获得了良好的结果
PDF7 years ago
CVPR使用宽度减少精度网络进行训练和推断
本研究旨在通过使用一种新的量化方案来缩减激活函数，从而提高计算机视觉应用的性能。我们发现这种方案可以在不降低模型精度的情况下，大大降低动态内存占用、内存带宽、计算能量并加速训练和推理过程。我们称其为宽面减少精度网络，研究表明其结果优于以前提
PDF7 years ago
MM深度声学模型的高效表示与执行
本文提出了一种简单而高效的量化方案，将神经网络的参数分辨率从 32 位浮点值减少到 8 位整数值，从而产生了显著的内存节省和可以使用优化后的硬件指令进行整数算术操作，从而显着降低了推理成本，并通过提出的 “量化感知” 训练过程进行网络训练，
PDF8 years ago