binary quantization | BriefGPT

关键词binary quantization

搜索结果 - 5

SIGIR第一阶段检索的复合编码稀疏自编码器
本文提出了一种用于文档表示的复合码稀疏自动编码器（CCSA）方法，以近似最近邻（ANN）搜索为基础。该模型可以替代传统的词袋模型，并可与最近的基于图的 ANN 技术相结合。经实验证明，CCSA 在给定数据集上优于 IVF with prod
PDF2 years ago
利用预训练语言模型生成通用文本嵌入以实现可扩展推断
研究使用共享文本编码器实现多任务推理以及使用二进制量化减少数据存储大小的方法，证明预训练的编码器在多个任务上表现的泛化性好。
PDF4 years ago
神经网络的最小二乘二值化
本文提出了一种新的二进制量化方式，使用该方式可以提高神经网络的推断效率，并在 ImageNet 数据集上进行了实验验证。
PDF4 years ago
NIPS深度神经网络压缩的可微细粒度量化
本文提出了一种基于梯度下降优化的深度神经网络压缩的精细化量化方法，通过在不同结构、层次上采用不同的精度，达到更好的压缩比和准确率的平衡。实验结果表明，与传统量化方法相比，该方法在相同压缩率下表现更优。
PDF6 years ago
通过临近算子进行量化神经网络的 ProxQuant
通过发现直通渐变法与 Nesterov 双平均算法相同，提出了一种更加合理的替代方法 ProxQuant，将基于量化网络的训练问题转化为规则化学习问题，并通过 Prox - 梯度方法进行优化。对于二元量化，ProxQuant 在稳定性上优于
PDF6 years ago