流式凸成本的一阶动态优化

Oct, 2023

First-Order Dynamic Optimization for Streaming Convex Costs

M. Rostami, H. Moradian, S. S. Kia

TL;DR本文提出了一组用于解决具有时变流成本函数的一类凸优化问题的新型优化算法，并开发了一种追踪具有有界误差的最优解的方法，与现有结果不同，我们的算法仅使用成本函数的一阶导数，从而使其在处理时变成本优化时具有计算效率，通过解决一个模型预测控制问题作为凸优化问题，证明了我们的结果。

Abstract

This paper proposes a set of novel optimization algorithms for solving a class of convex optimization problems with time-varying streaming cost function. We develop an approach to track the optimal solution with

optimization algorithms convex optimization problems time-varying streaming cost function first-order derivatives model predictive control problem

发现论文，激发创造

动态环境下的在线优化：强凸问题改进遗憾率

本文提出一种基于在线梯度下降方法的动态调参算法，以降低动态遗憾（dynamic regret），进而优化强凸且未知动力学的损失函数。

Mar, 2016

时变约束在线凸优化

本文研究了具有时间变化的约束条件的在线凸优化问题，并提出了一种算法，其收敛性具有一定的时间复杂度，并且可以在没有先验知识的情况下达到无偏的最优解。

Feb, 2017

关于时间变化凸函数的二阶梯度下降的稳定性

该研究探讨了基于梯度的优化算法在机器学习应用中的收敛速度、遗憾界限等指标以及其与稳定性保证之间的关系，并提供了更为通用的稳定性保证，以促进实时学习应用的安全可靠部署。

May, 2024

基于预测校正的内点法求解时变凸优化

本文提出了一种使用对数障碍惩罚函数的内点法解决具有时变目标和约束函数的凸优化问题的方法，并提出了一种能够跟踪（时变）最优解的连续时间动力系统来确保其全局渐近收敛于指数速度的最优解。

Aug, 2016

带长期约束的在线凸优化自适应算法

提出了一种适应性在线梯度下降算法，用于解决具有长期约束的在线凸优化问题，可以处理任意凸约束，该算法在损失和约束违规方面分别具有 O (T^max {β,1−β}) 和 O (T^(1−β/2)) 的累积遗憾界，优于 Mahdavi 等（2012 年）最好的已知累积遗憾界，该算法的性能已在实践中得到验证。

Dec, 2015

优化一阶方法降低平滑凸函数的梯度效率

本文采用性能评估问题方法，优化了平滑凸优化的一阶方法的步长系数，以使得梯度范数减少的效率最大化。结果表明，该方法在大维度平滑凸优化问题下，具有最优的最坏梯度界限，且具有类似于优化梯度方法的计算高效形式。

Mar, 2018

非线性、非平稳和随机系统的凸数据驱动逆最优控制

研究了有限时间内的逆控制问题，提出了一种能够从观测中推断出代理行为驱动成本的成本估计方法，并将结果转化为了算法过程，并通过实验验证了方法的有效性。

Jun, 2023

一类针对时变凸优化的预测 - 纠正方法

本文提出一种基于预测和修正步骤的算法，采用离散时间采样方案，在每个时间步长采样一次问题数据，以找到和跟踪解轨迹，用于无约束凸优化问题，并且在某些情况下，渐近误差仅为 O（h ^ 2），大大优于梯度校正步骤仅误差为 O（h）的现有技术。

Sep, 2015

约束在线凸优化的梯度变差限制

本文研究带复杂约束条件下在线凸优化问题，提出了一种基于镜像投影算法的新算法，可以在任何范数空间中实现低后悔和低约束违反度。

Jun, 2020

在线凸规划的动态模型和跟踪遗憾度

本研究提出了一种新的在线凸优化方法，利用候选动态模型家族建立新的跟踪后悔界，并通过追踪和基于模型的预测相结合，相对于高变化比较序列生成低的后悔。

Jan, 2013