正则化梯度下降:快速盲源分离和盲去卷积的非凸解法
研究了如何从卷积中恢复出两个信号 $f$ 和 $g$,提出了一种基于梯度下降的算法,能够高效、稳健地恢复 $f$ 和 $g$,并给出了一定子空间条件下的严格恢复保证。
Jun, 2016
研究非凸优化问题中梯度下降算法的隐式正则化特性,证明在多种统计模型中,梯度下降算法在没有显式正则化的情况下也能够实现正则化,并在相位恢复、低秩矩阵补全和盲反卷积等三个基本统计估计问题中实现近乎最优的统计和计算保证。
Nov, 2017
我们提出了一种名为 Recurrent Gradient Descent Network 的深度优化方法,它使用超参数自由的更新单元和卷积神经网络来生成更新,从而学习了一种隐含的图像先验和通用的更新规则,从而在各种恶劣情况下,提高了图像恢复的质量。
Apr, 2018
本篇研究分析几种解决非凸优化问题的新方法,其中目标函数为由非凸光滑项和已知凸简单项组成的总和,提出了随机坐标下降算法,并研究了它们的收敛性质及一些最优性衡量指标。同时,还针对一般情况下的非凸复合优化问题,证明了算法所生成的序列渐近收敛到固定点,同时在某些最优性测度下期望具有亚线性收敛率,如果目标函数满足误差界限条件,则导出了目标函数期望值的局部线性收敛率,并进行了广泛的数值实验来评估算法性能和与现有方法的比较。
May, 2013
本研究旨在探讨优化非光滑非凸正则化器下的平滑非凸损失函数的随机梯度方法。我们提出了两种简单的随机梯度算法,对于有限总和和一般随机优化问题,相较于现有技术水平,其具有更优的收敛复杂度。同时,我们在经验风险最小化中比较了两种算法的实际表现。
Jan, 2019
本文研究了节点网络上的去中心化在线随机非凸优化。通过将梯度跟踪技术集成到去中心化随机梯度下降中,我们证明了该算法具有一定的优势,并分析了其有效性和性能。同时,对于满足 Polyak-Lojasiewics 条件的全局非凸函数,我们确定了 GT-DSGD 的线性收敛性,并且在几乎每条路径上具有最优的全局亚线性收敛速度。
Aug, 2020
本文研究了从噪声测量中估计低秩矩阵的问题,并提出一种修改的非凸梯度下降方法,既能解决慢收敛的问题,又能保持极小值最优性,通过医学成像应用的实验,我们观察到,与先前的方法相比,重建误差显着减小。
May, 2023
本文提出一种新的梯度下降类型算法来解决一般的非凸和非光滑规则化的反问题,并开发了一种神经网络架构来从训练数据中自适应地学习非线性稀疏转换,该算法可以适应非凸结构的拓扑变换。数值结果表明,所提出的神经网络在各种不同的图像重建问题上的准确性和效率方面优于最先进的方法。
Mar, 2020