BriefGPT.xyz
大模型
Ask
alpha
关键词
fixed-point optimization
搜索结果 - 2
使用自适应步长重新训练的深度神经网络的固定点优化
本文提出了一种对定点优化算法的改进,它可以动态估计量化步长,同时实现了逐步量化方案,经实验发现:该算法适用于前馈神经网络、卷积神经网络和循环神经网络。
PDF
7 years ago
循环神经网络的定点性能分析
本研究通过基于再训练的量化方法分析了循环神经网络的定点性能,研究了 RNN 每一层的量化敏感度,并提出了能够在不损失性能的情况下最小化权重容量的整体定点优化结果。实验使用了语言模型和音素识别示例。
PDF
9 years ago
Prev
Next