energy-efficient training | BriefGPT

关键词energy-efficient training

搜索结果 - 4

深度神经网络的超低精度无乘训练
本文提出了一种自适应分层比例缩放的位编码量化（ALS-POTQ）方法和无乘积 MAC 的方法（MF-MAC），可以消除线性层中所有 FP32 乘法和重量偏差校正和参数化比率裁剪技术来提高稳定性和提高准确性，从而获得比现有方法更高的能源效率和
PDFa year ago
使用本地零阶方法能效训练 SNN
该研究提出了一种基于神经元零阶技术的新型算法来克服反向传播过程中的梯度信息丢失和非可微的问题，并在 GPU 上实现了 SNN 的能量高效训练，相对于现有的能量高效技术具有更好的泛化性能和相似的效率。
PDFa year ago
E2-Train: 基于 E2 方法训练最先进的 CNN 并节省 80% 以上的能量
通过三种方法 (stochastic mini-batch dropping, selective layer update, sign prediction) 来减少训练过程中的计算并实现在资源受限的设备上进行训练，该方法能够在保持准确率
PDF5 years ago
AAAI在神经形态多芯片系统上训练概率主题模型
本文研究了如何在神经形态多芯片系统（NMS）上训练概率主题模型，提出了三种算法，一种是批量算法，另外两种是在线算法，使用了新颖的随机优化方法和高效的能量和存储策略，并成功用于 pLSI 和 LDA 训练，结果表明这些算法不仅能够与常规计算机
PDF6 years ago