Feb, 2019

一种适应于光滑度和噪声的变分不等式通用算法

PDF
TL;DR该论文提出了一种基于 Mirror-Prox 算法的普适性算法，适用于具有噪声和非噪声数据以及平滑和非平滑函数的情况。算法通过适应性步长的选择来处理相关的约束问题，可以用于解决凸最小化和凸 - 凹鞍点问题等应用。
variational inequalitiesmonotone operatorsmirror-prox algorithmconvergenceadaptive algorithms
发现论文，激发创造
  • 关于不精确模型下优化和变分不等式的非精确相对光滑度和强凸性

    提出一种用于优化框架、鞍点问题和变分不等式的一般算法框架，通过构建主要问题组成部分即优化目标函数或者变分不等式运算符的不精确模型，不但可以产生许多已知的算法方法，同时可以构造新的算法方法，如具有复合结构的变分不等式的通用条件梯度法和相对光滑度算子的变分不等式算法。

    Jan, 2020

  • 广义镜像下降算法解单调变分不等式：普适性与不精确预言机

    我们介绍了一种不精确的 VI 正演算子模型，提出了一种数值方法来解决此类 VI 问题，并分析其收敛速度。我们还考虑了强单调算子的情况，并将我们的方法推广到具有不精确正演算子和 H"older 连续偏次梯度的凸凹鞍点问题。

    Jun, 2018

  • 使用随机镜像下降算法求解变分不等式

    本文提出了一种新的随机镜子代理（SMP）算法，通过便捷的步长策略优化收敛率，应用于解决了随机组合最小化和特定应用于随机半定可行性问题和最小化特征值的随机变分不等式问题

    Sep, 2008

  • 变分不等式的黄金比例算法

    本文介绍了一种针对单调变分不等式问题的全显式算法，该算法使用计算变量步长的方法来近似本地 Lipschitz 常数，每次迭代只需要评估单调算子 $F$ 和一个 proximal 映射 $g$，并且如果 $F，g$ 满足误差条件，则该方法表现出的收敛速度是 $O (1/k)$ 和 $R$ 线性速度，可以应用于不同类型的固定点问题。

    Mar, 2018

  • 锥约束非单调变分不等式问题的增广 Lagrangian 方法

    本文提出了一种名为 ALAVI 的增广 Lagrangian 原始 - 对偶方法，用于解决带有凸锥约束的非单调（混合）变分不等式模型，并证明了该方法的收敛性和全局收敛速率以及具有单调映射时的加速收敛速率，同时进行了大量的数值实验以证明方法的实用性。

    Jun, 2023

  • 随机变分不等式问题的最优鲁棒平滑外推算法

    本文考虑了随机泛型不等式问题及其解决方案，利用局部随机平滑方案求解，并证明了该解决方案在平均意义下和几乎肯定意义下都能收敛到问题的解，同时也实现了 $1/k$ 的收敛速度。

    Mar, 2014

  • UniXGrad：一种具有优化保证的通用自适应约束优化算法

    提出了一种新颖的自适应加速算法，通过 Mirror-Prox 方法，同时实现了平滑 / 非平滑问题和确定性 / 随机一阶预测器的最优解，且不需要先验知识，这是第一个在约束条件下实现最优解的自适应、统一算法，并通过大量数值实验展示了其实用性。

    Oct, 2019

  • 结构化非凸非光滑优化：算法和迭代复杂度分析

    本文介绍了一些带有或没有耦合的非凸优化模型，使用了相关的优化算法，如条件梯度和 ADMM， 为专门处理非凸和非光滑优化问题的理论和算法的发展提出了一步。通过数值实验，证明了这些算法的高效性，特别是在张量鲁棒 PCA 的场景下。

    May, 2016

  • 弱凸弱凹极大极小问题的一阶收敛理论

    本研究考虑了一类非凸非凹极值问题的一阶收敛理论和算法，它在机器学习中有广泛的应用，包括训练生成式对抗网络（GAN）。我们提出了一种算法框架，通过解决一系列强单调变分不等式，证明了所提出的方法的一阶收敛性和收敛率，并在 GAN 的训练中证明了所提出的算法的有效性。

    Oct, 2018

  • 具有方差缩减的随机变分不等式外推法

    我们提出了一种超梯度方法，它具有远离零的步长，适用于仅需要伪单调性的随机变分不等式。我们提供了收敛性和复杂性分析，其可允许无界可行集，无界算子，或不均匀的预测方差，并且不需要任何规则化。

    Mar, 2017