BriefGPT.xyz
Ask
alpha
关键词
nonconvex optimization problems
搜索结果 - 5
随机目标和约束下非线性规划的单循环算法复杂性
分析具有函数等式约束的非凸优化问题的单环二次罚函数和增广 Lagrange 算法的复杂性，通过三个不同情况的考虑得出具体复杂度，使用方差减少技术改进复杂度，这些算法为第一种和第三种情况的首个 “单环” 类型算法并且仍然具有最佳已知复杂度保证
→
PDF
8 months ago
非凸优化中动量 SGD 的扩散近似理论
本文通过对非凸优化问题的扩散逼近，分析了 Momentum 随机梯度下降算法的算法行为，发现该算法对于强鞍点的逃逸具有帮助，但在优化器的周围区域内妨碍了收敛（未进行步长退火或动量退火），本文的理论发现部分验证了 MSGD 在训练深度神经网络
→
PDF
6 years ago
I-LAMM 用于稀疏学习：同时控制算法复杂度和统计误差
这篇论文提出了一个名为 I-LAMM 的计算框架，旨在同时控制算法复杂度和统计误差，在拟合高维模型时具有最优的统计性能和可控的算法复杂度，本理论依赖于一种局部稀疏 / 受限特征值条件，可以分析大量的损失和惩罚函数，并在非常微弱的假设下提供最
→
PDF
9 years ago
统一的连续伪凸逼近框架
该研究提出了一种连续伪凸逼近算法以有效计算一类可能非凸优化问题的稳态点，并针对未加区分的优化问题提出了一种新的一维搜索方法。
PDF
9 years ago
非凸非线性随机规划的加速梯度方法
该论文将 Nesterov 的加速梯度方法推广到非凸和可能的随机优化问题中，证明该方法可以最优地解决一般的非凸光滑优化问题，并可应用于重要类的复合优化问题和非凸随机优化问题，是文献中第一次确立了 AG 方法解决非凸非线性规划的收敛性。
PDF
11 years ago
Prev
Next