Sep, 2010

带隐式更新的正则化对偶平均与镜像下降的统一视角

PDF
TL;DR该研究探讨了三家在线凸优化算法家族：follow-the-proximally-regularized-leader（FTRL-Proximal）、正则化双平均（RDA）和组合目标镜像下降。研究证明了所有这些算法都是通用 FTRL 更新的实例。此外，通过使用紧凑的表示方法，文中还提出了一种更好的算法性能估计方法，在真实数据集上展现出了更好的性能。
发现论文，激发创造
  • 广义隐式 Follow-The-Regularized-Leader

    该研究提出了一种新的在线学习算法，即广义隐式 FTRL，该算法扩展了 FTRL 框架的范围，可恢复已知算法，设计新的更新规则，直接改善遗憾的最坏情况的上界。

    May, 2023

  • 自适应（非）凸优化的模块化分析：乐观主义、复合目标和变分界限

    本文通过引入新的后悔分解和 Bregman 散度的泛化来对在线学习的两个算法进行分析，得出了较为简洁的结论，提出了对于复合目标的算法，并提供了一种细化的算法族。

    Sep, 2017

  • 分布式镜面下降算法用于在线复合优化

    本文提出了基于近似镜像下降的一类在线分布式优化算法，以 Bregman 距离为测量函数，包括欧几里得距离作为特例，考虑两种标准信息反馈模型，并通过在线分布式正则化线性回归问题的仿真结果验证了算法的性能。

    Apr, 2020

  • 在线镜像下降和对偶平均：在动态情况下保持步伐

    本文提出了一种简单的 OMD 算法技巧 - 稳定化，以动态学习率的情况下避免 OMD 线性遗憾，通过在经典 OMD 收敛分析下进行调整来获得与 DA 相同的性能保证。

    Jun, 2020

  • 无尺度在线学习

    本文设计并分析了一种不需要任何上限或下限的在线线性优化算法，实现了适应损失向量范数的缩放不变性，并且通过 FTRL 和 MD 元算法实现了最优遗憾，并为无界决策集开发了一种非真空遗憾绑定的自适应算法，并对基于 MD 的无标度算法在无界域上的下限进行了研究。

    Jan, 2016

  • 正则化对偶平均的扩展及其动态

    通过提出广义正则化对偶平均（gRDA）算法，该算法首次推导了在线 l1 惩罚问题的渐近分布，并开发了在线稀疏线性回归和在线稀疏主成分分析的统计推断理论，以及进行了广泛的数值分析。

    Sep, 2019

  • 统一镜像下降和对偶平均

    本文介绍并分析了一族新的一阶优化算法，它对镜像下降和对偶平均进行了推广和统一，并定义了新的约束优化算法，结合了镜像下降和对偶平均的优点。我们的初步模拟研究表明，在某些情况下，这些新算法显著优于现有方法。

    Oct, 2019

  • 稀疏 Q 学习和镜像下降

    该论文探讨了基于在线凸优化的强化学习的新框架，特别是镜像下降及相关算法，提出了一种新的类似于梯度下降的迭代方法。其中，基于不同 Bregman 散度的抛物线梯度强化学习法比常规 TD 学习更为普适。还提出了一种新型的稀疏镜像下降强化学习方法，相比之前基于二阶矩阵方法的方法，在寻找一个 l1 正则化 Bellman 方程的稀疏不动点时具有显著的计算优势。

    Oct, 2012

  • 联邦复合优化

    本文探讨了面向非平滑损失函数的联邦学习问题，提出了一种新的基于原始 - 对偶算法的 FedDualAvg 算法，并通过理论分析和实验结果证明了其优于其他基线算法。

    Nov, 2020

  • 分布鲁棒联邦平均法

    本文介绍一种分布式算法，即 Distributionally Robust Federated Averaging，用于解决分布式鲁棒联邦学习中通信效率和全局参数更新频率不匹配的问题，并且研究了该算法的收敛性及其一般化方法。

    Feb, 2021