MMMar, 2018

使用随机初始化的梯度下降：非凸相位恢复的快速全局收敛

PDF
TL;DR本文研究了使用梯度下降法（Wirtinger flow）求解二次方程组的问题，特别是相位恢复问题，证明了在高斯设计下，使用基本的梯度下降法可在 O (log n+log (1/ε)) 次迭代中给出接近最小化采样复杂度的 Epsilon - 精确解，而不需要特别设计的初始值、采样分裂或复杂的鞍点逃逸方案。
quadratic equationsphase retrievalgradient descentsample complexitiesoptimization algorithms
发现论文，激发创造
  • 任意初始化的在线随机梯度下降算法求解非光滑、非凸相位恢复问题

    本文研究了相位恢复问题，并提出一种基于随机梯度下降的方法，可以从任意初始点收敛，证明了其有效性并应用于单指数模型的求解，并提出了新的随机过程理论中的概念，可以用于更广泛的非凸优化领域。

    Oct, 2019

  • 通过阈值 Wirtinger 流优化噪声稀疏相位恢复的收敛速率

    本文提出了一个新的基于阈值梯度下降算法的 “嘈杂稀疏相位恢复” 问题的估计方法，并证明它在一定范围的稀疏水平上可以自适应地达到最小大误差速率。

    Jun, 2015

  • 通过 Wirtinger Flow 进行相位恢复：理论和算法

    本文提出一种非凸公式的相位恢复方法，通过随机数迭代更新的规则精确地重建了信号的相位信息。此算法具有低计算复杂性并在计算和数据资源方面都非常有效。

    Jul, 2014

  • 使用梯度下降的卷积相位恢复

    本研究通过使用分离理论、混沌过程的最大值以及随机循环矩阵的受限等距特性，结合交替最小化方法，研究了通过随机自卷积信号来恢复具有给定内核的未知信号。通过谱初始化和广义梯度下降等方法，我们解决了测量算子中可能存在的依赖问题，并证明当观测次数足够大时，可以高概率地实现全局相移下的有效恢复。

    Dec, 2017

  • 采用增量截断 Wirtinger 流进行相位恢复

    本文提出了一种名为 “增量截断 Wirtinger 流” 的算法来解决相位恢复问题的非凸公式，该算法以随机高斯感知向量为基础，证明其在嘈杂的测量下具有稳定性保证，并通过对模拟和实际数据的性能和比较实验，使用随机和结构化感知向量来展示了其性能。

    Jun, 2016

  • 利用随机初始化的黎曼梯度下降快速全局收敛的低秩矩阵恢复

    本文提出了一种适用于 Riemann 流形上低秩矩阵恢复问题的新的全局分析框架，其中使用 Riemann 梯度下降算法最小化最小二乘损失函数，并研究了渐近行为以及精确收敛速率。

    Dec, 2020

  • 用于解决二次方程组的重塑 Wirtinger Flow 和增量算法

    本文旨在研究相位恢复问题，提出了基于非凸平滑损失函数的 RWF 算法，通过与现有的非凸 Wirtinger 流和截断 Wirtinger 流算法进行比较，展示了 RWF 算法的优越性，并发展了增量式 RWF 算法，进一步证明了 IRWF 算法的性能保证和优越性。

    May, 2016

  • 非凸统计估计中的隐式正则化：梯度下降在相位恢复、矩阵补全和盲源分离问题中线性收敛

    研究非凸优化问题中梯度下降算法的隐式正则化特性，证明在多种统计模型中，梯度下降算法在没有显式正则化的情况下也能够实现正则化，并在相位恢复、低秩矩阵补全和盲反卷积等三个基本统计估计问题中实现近乎最优的统计和计算保证。

    Nov, 2017

  • 相位恢复的快速秩一交替最小化算法

    本文提出了一种新的分裂变量策略并求解二元优化问题的交替梯度下降算法以解决复杂度高的相位恢复问题，与现有算法相比提高了收敛速度和精度。

    Aug, 2017

  • 解二次方程组时的局部凸性

    本文介绍了一种可行的方法，利用梯度下降并结合谱初始化逼近正半定秩为 r 的矩阵 X X^T，并证明了在高斯分布下均匀采样 m >= Cnrlog^2 (n) 个样本时，可以在有很高概率下找到初始点，从而使梯度下降能收敛到正确结果。

    Jun, 2015