nesterov acceleration | BriefGPT

关键词nesterov acceleration

搜索结果 - 5

Nest-DGIL: Nesterov 优化的深度几何增量学习用于 CS 图像重建
在这项研究中，我们提出了一种基于二阶 Nesterov 近端梯度优化的深度几何增量学习框架，该框架能够高效地解决图像逆问题并降低图像重建中的伪影。我们的重建方案包括线性重建、级联几何增量修复、Nesterov 加速和后处理四个模块，并通过与
PDFa year ago
ICML双重加速快速实现边缘最大化
介绍了一种基于动量的梯度方法，使用最大化分类间隔相结合的凸对偶来训练线性分类器，表现出优异的性能
PDF3 years ago
随机梯度下降和随机八卦算法中的 Nesterov 加速算法连续化视角
本文提出了连续 Nesterov 加速法，将 Nesterov 加速法的变量用连续时间参数索引，使两个变量连续混合，其间隔时间内随机进行梯度步骤。我们证明了该变体具有与 Nesterov 原始加速法相似的收敛率，并且具有连续和离散框架的最佳
PDF3 years ago
KDD具有 Nesterov 加速梯度的随机拟牛顿方法
本文提出了一种具有 Nesterov 加速梯度的随机（在线）拟牛顿方法，用于解决神经网络中的大规模非凸优化问题，结果表明其性能优于传统的二阶 oBFGS 和 oLBFGS 方法以及常用的一阶随机梯度方法，还在不同的动量率和批处理大小下进行了
PDF5 years ago
基于梯度的非凸优化的催化剂加速
该论文介绍了一种通用的方案，使用最初设计用于最小化凸函数的梯度下降算法来解决非凸优化问题，该方案允许我们将这些方法用于弱凸性目标，这涵盖了机器学习和信号处理中通常出现的大类非凸函数。该方案无需假定目标函数具有凸性，而是通过自适应于未知的弱凸
PDF7 years ago