研究了通过 lp 最小化距离来恢复高维数据集中 K 个线性子空间的问题，其中数据来自于一个混合分布，包含 K+1 个组成部分，包括一个在球体上均匀分布的 outliers 和 K 个在球体上限制的直线子空间，以及解决了在这个问题中 lp 最小化是非凸的问题，结果表明，如果 0＜p≤1，则 lp 最小化可以精确地恢复所有的线性子空间和 l0 最佳的子空间，而对于 K>1 和 p>1，无法恢复或近似恢复所有线性子空间和最佳的 l0 子空间。

Feb, 2010

本文研究了从混合分布中采样的数据，通过最小化样本数据与 K 个线性子空间的 l_p 平均距离，同时恢复 K 个子空间并解释了 l_p 能量最小化方法在多子空间数据建模中的失败和成功

Apr, 2011

对于现代机器学习应用中的最小化问题，研究了基于提纯的方法族，证明了在渐进条件下，从任意初始状态出发，研究中的策略几乎总能避免严格鞍点 / 子流形，从而为在流形上使用梯度方法提供了重要的可靠性验证。

Nov, 2023

此论文为关于鲁棒性子空间恢复的工作作为介绍。该工作重点介绍了现有方法的优缺点以及该领域中未解决的问题，其目标是在可能被离群值破坏的数据集中查找潜在的低维子空间。

Mar, 2018

本研究分析了随机超完备张量分解问题的优化景观，证明了所有局部最大值都是近似的全局最大值，为使用基于梯度的局部搜索算法解决非凸优化问题提供了理论支持。

Jun, 2017

在本文中，我们提供了对有限样本情况下相位恢复的局部景观的精细分析，旨在确定在高维情况下保证围绕全局最小值的良好局部景观所需的最小样本量。

Nov, 2023

本文探讨了基于梯度的算法，如梯度下降、随机梯度下降、其持续变体和 Langevin 算法如何浏览非凸损失景观及其在有限样本复杂度下能否达到最佳泛化误差问题。我们以高维相位恢复问题的损失景观为典型例子，证明了随机梯度下降算法可以在控制参数区域达到完美的泛化性能，而梯度下降算法则不能。我们还运用动力学均场理论从统计物理学的角度分析了这些算法在连续时间、以热启动方式和大系统规模下的全部轨迹，并揭示了景观和算法的若干有趣特性，如梯度下降算法可以从更少的初始信息获得更好的泛化性能。

Mar, 2021

我们研究了非凸和高维环境中梯度下降的优化动力学，重点研究了相位恢复问题作为复杂损失地形的案例研究。我们通过分析优化过程中局部曲率的变化，发现在下降的第一个阶段中，对于中等信噪比，Hessian 矩阵显示出朝向好的极小值的下降方向，然后被困在坏的极小值中。成功的相位恢复通过梯度下降在达到坏的极小值之前朝向好的极小值实现，这种机制解释了为什么在高维极限对应的算法过渡之前就能成功恢复。我们的分析揭示了这种新机制，在有限但非常大的维度下促进梯度下降动力学，同时强调了初始化谱特性对于在复杂高维地形中的优化的重要性。

Mar, 2024

发展了一种新框架，旨在捕捉一般非凸低秩矩阵问题的共同局面，包括矩阵感知，矩阵完成和鲁棒 PCA，在优化风景线的现有分析的基础上进行了连接和简化，自然地导致了不对称矩阵完成和鲁棒 PCA 的新结果

Apr, 2017

研究了鲁棒子空间恢复的基本问题，通过解决凸最小化过程来估计 “鲁棒逆样本协方差”，然后通过此矩阵的底部特征向量（其数量对应于接近 0 的特征值的数量）恢复子空间。我们保证在某些条件下精确恢复子空间，同时提出了一种快速迭代算法，可线性收敛到最小化凸问题的矩阵。我们对噪声和正则化的影响进行了量化，并在各种设置中讨论了许多实际和理论问题，以改善子空间恢复。与许多其他鲁棒 PCA 算法相比，在合成和实际数据集上进行了比较，并证明具有最先进的速度和准确度。

Dec, 2011