关键词smooth convex function
搜索结果 - 4
- 凸 SGD: 泛化无需提前停止
我们研究了在紧致集合上的光滑凸函数中使用随机梯度下降的泛化误差，并展示了当迭代次数 T 和数据集大小 n 以任意速率趋近于零时，我们第一次得到了一个消失的泛化误差界，该界与步长 αt=1/√t 成比例，泛化能力不需要强凸性。
- 一种带有不定后验项的线性约束凸组合优化的主导式 ADMM 算法
本文提出了一种使用不确定的近似项的 ADMM 算法，以解决包含非光滑和光滑凸函数和线性约束的二块凸优化问题，并通过理论和数值实验证明了其全局收敛性和收敛速度。
- 随机块坐标下降方法的复杂性分析
本文主要研究随机块 - 坐标下降方法在最小化一般光滑凸函数和块可分凸函数的和时的应用，提出一种更加针对性的收敛速度和更好的迭代复杂度，同时针对无约束光滑凸函数极小化问题提出了新的随机评估序列技术并改进了现有算法的收敛速度。
- 凸优化中不精确近端梯度方法的收敛速率
本文探讨了使用近端梯度法优化平滑凸函数和非平滑凸函数的和时，如果在计算平滑项的梯度或非平滑项的邻近算子时存在误差，基本的近端梯度法和加速近端梯度法可以实现与没有错误的情况下相同的收敛率，前提是错误以适当的速度减小。使用这些速度，在一组结构稀