BriefGPT.xyz
大模型
Ask
alpha
关键词
forward-mode gradient computation
搜索结果 - 1
反向 - 前向微分
该研究论文探索了前向梯度计算作为可替代的反向传播方法,在可逆网络中减少内存占用的潜力,并引入了一种基于矢量 - 逆雅可比积的新技术,加速前向梯度计算并保持真实梯度的保真度。该方法在网络深度的时间复杂度是线性的,相比朴素前向传播的二次时间复杂
→
PDF
4 months ago
Prev
Next