oracle complexity | BriefGPT

关键词oracle complexity

搜索结果 - 9

线性约束双层优化的一阶方法
具有有限时间超梯度稳定性保证的一阶线性约束优化方法在双层优化中遇到了带有高维度的 Hessian 计算，尽管最近的研究提供了非约束双层问题的一阶方法，但约束设置仍然相对较少探讨。我们提出了一种具有有限时间超梯度稳定性保证的一阶线性约束优化方
PDF18 days ago
梯度下降在可行性问题的 Oracle 复杂度和内存权衡中是帕累托最优的
在这篇文章中，我们使用具有访问分离预言机的内存受限算法提供了解决给定集合中的点的 Oracle 复杂性下界，其中集合包含单位 d 维球体并且含有已知半径 ε 的球体。我们证明了对于准确度 ε≥e^(-d^(o (1))) 的可行性问题，任何
PDF3 months ago
在范数空间中的随机 Halpern 迭代及其在强化学习中的应用
我们分析了具有方差减小的随机 Halpern 迭代的 Oracle 复杂度，目标是在规范有限维度空间中逼近非扩张和收缩算子的不动点。我们证明，如果底层随机 Oracle 的方差有一致上界，我们的方法展现出 O (ε^{-5}) 的总 Ora
PDF4 months ago
加速不精确超梯度下降法用于双层优化
本文提出了 Restarted Accelerated HyperGradient Descent (RAHGD) 方法，用于在非凸强凸双层优化问题中找到一阶和二阶稳定点，并在理论上得到了最优解和新的最佳上限，同时通过实验验证了理论结果。
PDFa year ago
ICML分散式随机非凸优化问题的混合方差缩减方法
本文研究了分散式随机优化的网络问题，提出了一种新的单循环分散式混合降低方差随机梯度下降算法 GT-HSGD，并度量了其优化性能。
PDF3 years ago
随机凸优化中梯度变小的复杂性
本文探讨了在随机凸优化问题中寻找近似驻点的 oracle 复杂度问题和其和全局 oracle 模型的关系，并提出了一种扩展的递归正则化算法以实现接近最优率，并揭示了 stochastic optimization 和 learning 的复
PDF5 years ago
NIPS高效使用近似算法的在线线性优化
本文讨论在线线性优化问题，考虑可行操作集通过近似线性优化预言机具有 α 乘性逼近保证的情况，给出了新算法并提出了显著改进甚至多项式对数的预言机复杂度，同时得到了常数 c>0 的 alpha 遗憾界。
PDF7 years ago
具有方差缩减的随机变分不等式外推法
我们提出了一种超梯度方法，它具有远离零的步长，适用于仅需要伪单调性的随机变分不等式。我们提供了收敛性和复杂性分析，其可允许无界可行集，无界算子，或不均匀的预测方差，并且不需要任何规则化。
PDF7 years ago
一种更快的切平面方法及其对组合优化和凸优化的影响
通过使用标准约减和新技术的混合方法，我们改进了查找凸集中点的运行时间，同时提高了在连续和组合优化中的算法性能，特别是子模规划和半定规划问题。
PDF9 years ago