quantizer | BriefGPT - AI 论文速递

关键词quantizer

搜索结果 - 6

不需要参数的改进算子范数误差率的双位协方差估计器
我们提出了一种新的 2 位协方差矩阵估计器，通过采用三角形 dither 先于 2 位量化器，可以同时解决 Dirksen 等人的两个问题，提高了算子范数误差率，并且无需任何调整参数，实验结果证明了估计器的出色数值性能。
PDF10 months ago
ECCVDBQ: 一种适用于轻量级深度神经网络的可微分分支量化器
本文提出了一种全新的可完全微分的非均匀量化器，在轻量级神经网络（如 MobileNetV1，MobileNetV2 和 ShuffleNetV2）上取得了最优的准确性 - 复杂度平衡，并成功地解决了将神经网络部署到资源受限设备上的问题。
PDF4 years ago
RATQ：一种用于随机优化的通用定长量化器
提出了一种用于梯度量化的固定长度量化器 RATQ，它能够使得优化的准确率接近信息论界限并且在性能方面表现较优，而且同样适用于分布均值估计和高斯向量数据的压缩过程。
PDF5 years ago
利用截断高斯近似同时优化三值神经网络的权重和量化器
本篇研究提出了一种新型的三值神经网络训练方法，使用删节高斯近似法将重量三值化的阈值合并到封闭形式的表示中，同时优化重量和量化器，在 Imagenet 分类任务中实现了与完全精度相比仅有的 3.9/2.52/2.16% 的精度下降。
PDF6 years ago
ICLR相似性搜索的扩散向量
该研究提出了一种基于神经网络的反向数据量化策略，通过在神经网络最后一层形成预定义超球体点的无参数量化器，训练神经网络来实现对数据进行适配的目标；通过 Kozachenko-Leonenko 差分熵估计器导出新的正则化项来强制实现数据空间内的
PDF6 years ago
关于替代损失函数和 f - 分布
本研究针对使用量化器降维的二元分类问题，从损失函数的角度提出了实现贝叶斯一致性的条件，扩展了 Ali-Silvey 函数和 surrogate loss 函数之间的对应关系。这一结果为选择在联合估计判别函数和量化器时实现贝叶斯一致性的 su
PDF19 years ago