BriefGPT.xyz
Ask
alpha
关键词
subgradient methods
搜索结果 - 5
基于拉格朗日法的非平滑非凸优化方法的开发
本文中我们考虑在闭凸子集上最小化一个非光滑非凸的目标函数 $f (x)$,同时满足附加的非光滑非凸约束 $c (x) = 0$。我们开发了一个统一的框架来发展基于 Lagrangian 的方法,在每次迭代中通过某些子梯度方法对原始变量进行单
→
PDF
3 months ago
具有复合优化的低秩矩阵恢复:良好的条件和快速收敛
该研究提出了一种新的低秩矩阵恢复方法,采用非平滑惩罚形式,在某些具体情况下能够克服传统平滑方法的病态问题,同时具有自适应性和鲁棒性。数值实验说明了该方法在解决相位恢复、盲卷积、矩阵补全和稳健 PCA 等计算任务中的优势。
PDF
5 years ago
非 Lipschitz 连续情况下的确定性与随机次梯度方法的收敛速度
通过对 Shor 子梯度分析的推广,我们将子梯度方法的经典收敛速度理论扩展到可适用于非 Lipschitz 函数。我们证明了在任何具有局部 Lipschitz 性的凸函数中,确定性投影子梯度算法的全局 O(1/√T)收敛速度。我们还表明,对
→
PDF
7 years ago
MM
具有 Hölder 增长函数的更快次梯度方法
本文探讨次梯度法在极值点问题(特别是带有 Hölder 增长 )中,固定和衰减步长下的收敛性及误差,并介绍了一种名为 “下降楼梯” 的步长方式,最终提出了一种自适应变体方法以实现更快的收敛速度。
PDF
7 years ago
ICML
用于核范数正则化的高效实用随机次梯度下降
本研究提出了一种基于亚梯度方法和快速增量 SVD 更新的矩阵优化模型,通过使用高效的并行线性代数操作,执行廉价迭代,保持低秩因子分解迭代,因此在矩阵完成设置中生成预测时非常有效。
PDF
12 years ago
Prev
Next