BriefGPT.xyz
Ask
alpha
关键词
hessian matrices
搜索结果 - 4
神经网络训练的自适应多重最优学习因子
本文介绍了一种新颖的神经网络训练方法,通过动态地调整学习因子的数量来解决确定最佳学习因子数量的挑战,从而提高训练效率和准确性。该方法还引入了基于目标函数曲率的权重分组技术和大型 Hessian 矩阵的压缩技术。实验结果表明,与 OWO-MO
→
PDF
a month ago
数据拟合的有用简化表示
无需二阶导数信息的最小化问题,通过估计 Hessian 矩阵的方法可以非常有效。然而,传统技术产生的密集矩阵对于大型问题来说是不可行的。有限内存紧凑表示以低秩表示方式表达密集数组,并成为大型确定性问题软件实现的最新技术。我们开发了一种新的紧
→
PDF
4 months ago
多块双层优化的分块随机方差减小方法与并行加速
该论文提出了两种新的随机算法,使用先进的分块方差减少技术来跟踪 Hessian 矩阵,解决了多块双层优化问题的挑战,证明了其收敛性和高效性,在机器学习等领域具有重要的应用。
PDF
a year ago
使用相对运动海森矩阵的无意义全局捆绑调整
本文提出了一种新的捆绑调整目标,它不依赖于图像特征的重新投影误差,同时保持与传统捆绑调整相当的精度,通过平均相对运动和局部海森矩阵的加权目标函数,从而隐含地考虑结构信息,利用全局对齐来引导最终优化。
PDF
a year ago
Prev
Next