本文提出了一种分布式量化方案，旨在用训练数据为分类器设计量化器，不需要先验数据假设，而是专注于正确分类，可在任何特征数、任何类别数和任意特征分布的情况下进行多项式时间量化算法的设计。结果表明，将量化器适应于分类任务可以获得显着的节省，并可在保持预测精度不变的情况下将比特通信数量减少超过两倍。

Nov, 2019

本文提出一种正则化的向量量化框架，通过两种正则化方法有效缓解确定性量化和随机量化所存在的问题，并设计出一种概率对比损失作为更进一步缓解扰动重构目标的标准度量，实验表明该框架在不同的生成模型中表现都比现有的向量量化方法更优。

Mar, 2023

本文提出了一种新的二进制量化方式，使用该方式可以提高神经网络的推断效率，并在 ImageNet 数据集上进行了实验验证。

Jan, 2020

利用线性回归在过参数化制度中进行多类别分类研究，分析了数据集中的标签错误对分类性能的影响，研究发现加入正则项可以避免过拟合错误标签，并证明了当正则函数为 2 - 范数时的最佳分类性能，同时还分析了 1 - 范数和无穷范数时的分类错误情况以及可能接近 2 - 范数解的稀疏和一位解。

Feb, 2024

使用更少的位数表示模型权重和激活，量化降低了内存使用、计算需求和延迟。我们研究了量化神经网络的泛化性质，首先通过理论模型表明了量化作为一种正则化的功能，其次通过与损失函数曲线陡峭度与泛化的相关性的研究，提出了一个近似限制量化模型泛化性的方法，通过在 CIFAR-10、CIFAR-100 和 ImageNet 数据集上对卷积和 Transformer 模型进行超过 2000 次实验进行验证。

Apr, 2024

分类量化的研究在近年来获得了更多的关注，但是大部分的研究都集中在二分类和多分类问题上，很少研究有序情况下的分类量化。本文主要贡献有三点：首先，我们创建了两个新的有序分类量化数据集，弥补了之前数据集的不足；其次，我们对现有的有序分类量化算法进行了实验比较，将来自数据挖掘和天体物理学等不同研究领域的算法作者集于一身；第三，我们提出了一种新的正则化的有序分类量化算法，在实验中优于现有算法。我们的算法在性能上取得了提升，关键原因是我们的正则化方法防止了在实际应用中不合理的有序估计，因为我们假设有序分布在实践中趋于平滑，我们通过多个实际应用案例对此假设进行了非正式验证。

Oct, 2023

本文介绍一种可微的量化过程，将连续分布转换为分类型分布，然后通过松弛到连续的代理来实现高效的基于梯度的优化，还展示了随机舍入可理解为所提出方法的一个特例。通过实验证明本方法对于 MNIST、CIFAR 10 和 Imagenet 等各种问题的分类都具有很好的表现.

Oct, 2018

该论文介绍了一种统一的框架来解决网络量化问题，通过引入一种新型的距离感知量化器 (DAQ), 该方法既解决了梯度匹配问题，也解决了量化差异问题，有效提高了各种位宽下的网络性能。

Aug, 2021

使用软量化器和距离引导蒸馏策略，在步态识别中实现关键词所示的深度学习方法，并验证了其在各种设置和数据集上的最先进准确性。

May, 2024

提出了一种软硬编码的方法用于神经图像压缩，通过先学习一个表达力强的隐变量空间，再采用硬编码方法解决了训练集和测试集不匹配的问题，同时引入加性噪声自适应控制量化粒度，实验结果表明该方法在复杂压缩模型上表现稳定且有效。

Apr, 2021