BriefGPT.xyz
Ask
alpha
关键词
gradient vectors
搜索结果 - 4
ACL
大规模语言模型的基于令牌的影响训练数据检索
提出了 RapidIn 框架,用于估算每个训练数据对大型语言模型生成的影响,通过缓存和检索阶段,压缩梯度向量并支持多 GPU 并行加速,实现了超过 6326 倍的加速效果。
PDF
2 months ago
通过反演影响函数理解深层渗漏梯度
基于 Inversion Influence Function (I^2F) 的研究,探讨了深度梯度泄漏攻击及隐私保护方法。
PDF
9 months ago
定向点法线估计的神经梯度学习和优化
我们提出了神经梯度学习(NGL),一种用于从三维点云中学习具有一致方向的梯度向量的深度学习方法,具有出色的梯度近似性能。我们利用简单的神经网络对目标函数进行参数化,使用全局隐式表示在点上产生梯度;然而,由于缺乏局部详细描述,导致得到的梯度通
→
PDF
10 months ago
ICML
meProp: 稀疏化反向传播,加速深度学习,降低过拟合
通过保留权重矩阵的前 k 个元素并实现前向传播和反向传播来减少计算成本,该方法可以提高神经网络的学习效率并改善其准确性。
PDF
7 years ago
Prev
Next