Jul, 2023

对称锥体上的在线凸优化的乘法更新

PDF
TL;DR对在线凸优化问题进行研究，采用对称锥中一对称切片的投影无关算法 Symmetric-Cone Multiplicative Weights Update (SCMWU)，通过使用欧几里德 - 约旦代数的工具，将其等价于 Follow-the-Regularized-Leader 和 Online Mirror Descent 算法，证明了其是一种无悔算法，并通过大量实验验证了理论结果。
online convex optimizationsymmetric coneeuclidean jordan algebrasmultiplicative weights updateno-regret algorithm
发现论文，激发创造
  • 共识乘权更新：使用基于投影器的游戏签名学习学习

    本研究介绍了一种新的以学习系数的增量式更新规则为主要方法的强化学习策略，该策略依据游戏的本质 —— 游戏签名进行调整，用于学习在游戏中达到最优状态的方法，其中游戏的多个方面分解成具有交换性的投影算子，介绍了一个新的算法 CMWU，在零和双矩阵游戏中具有局部收敛的保证。

    Jun, 2021

  • 末次迭代收敛：零和博弈与约束极小极大优化

    本文研究了一种叫做 OMWU 的算法，该算法在约束的 min-max 最优化问题中表现出优秀的收敛性以及稳定性。该算法与先前的梯度下降法及其他学习算法不同，且需要使用新的技术和思路。

    Jul, 2018

  • 无悔学习中的最后迭代收敛：凸凹景观的约束极小极大优化

    本文研究了凸凹零和博弈问题，并提出了一种遵循在线学习框架的近似算法 Optimistic Multiplicative-Weights Update，在本地范围内表现出最后收敛性。

    Feb, 2020

  • 游戏中的混沌、极端主义和乐观主义：学习的量化分析

    本文研究了 MWU 和 OMWU 在零和博弈和协调博弈中的体积分析，并通过对初值集合的变换证明了其新颖的收敛或发散特性。

    May, 2020

  • 有约束鞍点优化中的线性最后迭代收敛性

    本研究对 OGDA 和 OMWU 在约束优化问题中的后迭代收敛性进行了显著扩展，提出了一种足够条件来保证 OGDA 在多面体上的双线性博弈问题中展现出线性的后迭代收敛性，并且没有唯一均衡假设，同时在强凸 - 强凹函数上也保持收敛性，这种条件也适用于多个一般目标和可行集合的约束下的 OGDA 算法，并通过实验结果验证了理论。

    Jun, 2020

  • 稀疏性与曲率的改进乐观镜像下降算法

    本文研究了在线凸优化的一些新进展，特别是对于在稀疏、可预测序列和曲线损失等易于数据实例中进一步提高后悔界限的方法的统一处理。我们提出了一种自适应、乐观的更新规则，并解释了一种可以动态适应损失函数曲率的更新规则，并最终将这些结果扩展到了复合损失情形。

    Sep, 2016

  • 基于矩阵乘法权重的量子博弈中的回报学习

    研究了量子博弈和其他类别的半定博弈中基于标量、基于回馈的学习问题。介绍了一套适用于不同信息框架的最小信息矩阵乘法权重（3MW）方法，并设计了适用于半定几何问题的零阶梯度采样器。展示了确定性回馈和随机回报可观察的 3MW 方法的收敛性，以及对满足一定一阶稳定条件的全部均衡点局部收敛的正则化变体。

    Nov, 2023

  • 在线学习中指数权重的多种表现形式

    本文提出将指数加权法放在网络学习的中心地位，将标准方法和其遗憾界转化为适当的替代损失函数以及指数加权后验的结果，给出了在线梯度下降、在线镜像下降和在线牛顿步等方法的 EW 表述，并使得由复杂的自适应方法可转为简单易行的指数凸的代理损失函数。

    Feb, 2018

  • Frank-Wolfe 算法的自共轭分析

    通过理论建立不同变体的 Frank-Wolfe（FW）算法的自适应步长，对一些机器学习及物理学问题，能够得到无需映射和保留稀疏性的优化，且对于具有无限曲率的自共轭函数，也可以获得全局收敛速率为 O (1/k) 或线性收敛速率的新的 FW 方法。

    Feb, 2020

  • 跟随压缩的领袖：更快的特征向量在线学习和更快的 MMWU

    研究在线问题的顶部特征向量的计算方法。提出了一种 follow-the-compressed-leader（FTCL）算法，能够在不牺牲运行时间的情况下实现最优遗憾率。该算法在敌对和随机环境中均能提供最优解决方案，解决了在线特征向量问题的两个未解之谜。

    Jan, 2017