研究了在线学习问题中的限制,提出了基于 Follow-the-Perturbed-Leader 的投影法之外的高效项目方法,其保证了平滑成本函数和每个迭代中一个线性优化计算的一般在线凸优化中的 $T ^ {2/3}$ 后悔界。
Jan, 2020
该论文提出了一种新颖的元 Frank-Wolfe 算法及其简化版 One-Shot-Frank-Wolfe,用于对在线优化进行全局和子模最优解的快速求解。其方法基于梯度下降实现,通过随机梯度估算和孪生逼近算法来降低收敛难度。
Feb, 2018
本文提出了一种基于 Online Convex Optimization with Memory 与 Frank-Wolfe 算法的无投影元基学习算法,可以实现投影 - 免费的在线学习,应用于自适应时变环境控制等领域。
Jan, 2023
本研究提出了一种新的不需要投影的算法框架来解决在线凸优化问题,该算法框架具有较好的性能表现并可处理多种约束情况。
May, 2023
本文介绍了在曲面上进行在线几何凸优化时如何通过投影自由算法,在有分离预言机或线性优化预言机的情况下实现亚线性后悔保证。
本研究中,我们在边缘学习方面进行了调查,探讨了在线凸优化问题下的对抗性延迟反馈,提出了两种无投影算法,用于集中式和分布式环境中,通过与现有方法在真实世界问题上的比较,我们理论上和实验证明了算法的性能,实现了延迟环境中 OCO 问题的 O (√B) 的后悔界。
Feb, 2024
本文提出了解决约束在线凸优化问题的框架。通过将问题转化为在线凸 - 凹优化问题,提出了一种有效的算法,可以实现收敛性较好的结果。同时,本文还为从中提取多点强化信号的约束在线凸优化问题提供了解决方案。
Nov, 2011
探讨在线变体的 Frank-Wolfe 算法,包括简单迭代更新和非自适应步长规则,研究凸和非凸损失的多个新结果,并基于对随机 Frank-Wolfe 算法的改进分析得出在强凸随机成本时的遗憾界和任何时刻的最优性为 O (log^3T/T) 和 O (log^2T/T) ; 此外,该在线算法即使在损失非凸的情况下也能收敛,以速率 O (1/T 的平方根) 找到时变 / 随机损失的稳态点。
Oct, 2015
本文提出了两种有效的投影不等式在线方法 ORGFW 和 MORGFW 来解决随机和对抗性在线凸优化问题,并采用递归梯度估计器达到了优秀的后悔度边界(至多对数因子),同时具有低的每次迭代计算成本。实验结果表明,在效率方面,与现有技术相比,所提出的方法更加高效。
Oct, 2019
优化非稳态动态损失和自适应损失的有效方法涉及非稳态在线学习的减少投影和梯度查询次数,在参数自由在线学习的基础上进行了非平凡的改进。
Sep, 2023