May, 2023

动态和自适应损失保证下非稳态无投影在线学习

PDF
TL;DR本文研究了非稳态下的无投影在线学习，使用动态遗憾和自适应遗憾来衡量性能，提出了基于多个不同步长的 BOGD_IP 算法并行运行的算法，以及维护一组 BOGD_IP 算法并动态地组合它们的元算法，实验结果验证了理论分析。
projection-free online learningdynamic regretadaptive regretbogd_iphigh-dimensional problems
发现论文，激发创造
  • 非平稳在线学习的高效方法

    优化非稳态动态损失和自适应损失的有效方法涉及非稳态在线学习的减少投影和梯度查询次数，在参数自由在线学习的基础上进行了非平凡的改进。

    Sep, 2023

  • Riemannian 无投影在线学习

    本文介绍了在曲面上进行在线几何凸优化时如何通过投影自由算法，在有分离预言机或线性优化预言机的情况下实现亚线性后悔保证。

    May, 2023

  • 无投影赌博凸优化改进遗憾界

    本文提出一种基于条件梯度法的 projection-free 的算法，通过线性优化预测每一轮的动作并达到了 $O (T^{3/4})$ 的预期最小化损失 (expected regret)。

    Oct, 2019

  • 动态环境下的在线线性回归与折扣

    我们开发了一种用于在线线性回归的算法，即使在完全没有先验知识的情况下，也能实现最佳的静态和动态遗憾保证。

    May, 2024

  • 改进的无投影在线连续子模最大化

    本文提出了一种投影 - 无关算法 POBGA，通过在线提升梯度上升算法、不可行的投影技术和阻塞技术的新颖组合，以及分散设置的变体，有效地缩短了由先前算法 Mono-FW 降低的后悔下限，并将通信复杂度从 O（T）降低到 O（√T）。

    May, 2023

  • 无投影在线随机约束凸优化

    本研究提出了一种新的不需要投影的算法框架来解决在线凸优化问题，该算法框架具有较好的性能表现并可处理多种约束情况。

    May, 2023

  • 动态环境下的自适应在线学习

    本文研究动态环境下的在线凸优化问题，通过提出一种自适应学习的方法 Ader，利用专家跟踪算法结合一组专家来最小化动态遗憾，并扩展到可用于表征比较器的动态模型序列的情形。

    Oct, 2018

  • 更快的无投影在线学习

    研究了在线学习问题中的限制，提出了基于 Follow-the-Perturbed-Leader 的投影法之外的高效项目方法，其保证了平滑成本函数和每个迭代中一个线性优化计算的一般在线凸优化中的 $T ^ {2/3}$ 后悔界。

    Jan, 2020

  • 动态遗憾的近端在线梯度是最优解

    本文研究了在线学习中基于动态后悔度的参考解决方案的变化以及静态后悔度参考解决方案的时间保持不变的差异，证明了基于在线梯度的近端算法是动态后悔度的最优算法。

    Oct, 2018

  • 无投影在线凸优化与时变约束

    在线凸优化中，考虑具有对抗性时变约束的情景，在这种情况下，行动必须相对于固定约束集是可行的，同时在平均上还需要近似满足附加的时变约束。我们提出了一种算法，通过线性优化预言机（LOO）访问这个集合来保证在一个长度为 T 的序列上，通过总共 T 次对 LOO 的调用，相对于损失函数产生的后悔为 $ ilde {O}(T^{3/4})$，对于约束的违反是 $O (T^{7/8})$（忽略除了 $T$ 以外的所有量）。尤其地，这些边界适用于序列中的任何区间。我们还提出了一种更高效的算法，它仅需要对软约束进行一阶预言机访问，并在整个序列上获得类似的边界。我们将后者扩展到了强化学习的场景，并在期望上获得了类似的边界（作为 $T$ 的函数）。

    Feb, 2024