Jan, 2020

Robust PCA 中凸和非凸优化的桥梁：噪声，异常值和缺失数据

HTML
PDF
TL;DR本文探讨了在存在随机噪声、大量离群点和缺失数据的情况下，通过凸规划方法提高低秩矩阵估计的理论保证。结果表明，当未知矩阵是很好条件的、不一致的和具有恒定秩时，通过凸规划实现了接近最优的统计精度。即使有近乎恒定的观测值被任意大小的离群值所污染，都可以获得令人满意的结果。
发现论文，激发创造
  • 通过凸松弛进行嘈杂矩阵分解：在高维度中获得最优速率

    通过矩阵分解问题中的凸松弛方法，结合核范数和分解式正则化，我们分析了一个能得到估计值的一般性定理，该定理可以适用于低秩矩阵、稀疏矩阵及一些可压缩的高维矩阵。我们利用了峰态条件，得到了确定性和随机性噪声矩阵的非渐近性弗罗贝尼乌斯误差界，同时也证实了最小化误差的下限和数值模拟结果的契合度。

    Feb, 2011

  • 一种基于经验贝叶斯方法的非凸秩最小化算法

    本文提出了一种基于变分近似的经验贝叶斯程序，用于低秩矩阵估计，与核范数不同的是，该方法保留了很多有用约束下与秩函数相同的全局最小点估计。该方法适用于广泛的低秩学习应用，特别是强健主成分分析问题（RPCA）。

    Aug, 2014

  • 非凸统计优化：多项式时间下的极小极大稀疏PCA

    提出一个名为 'tighten after relax' 的两阶段计算框架，其中第一阶段使用建议的凸松弛方法进行近似求解，第二阶段则通过直接求解基础非凸问题的新算法 'sparse orthogonal iteration pursuit' 来迭代优化初始估计值，并证明该框架的稳定性和最优性在特定模型类别下成立。

    Aug, 2014

  • 非凸健壮主成分分析

    该论文提出了一种新的鲁棒PCA方法，通过在低秩矩阵集和稀疏矩阵集上交替投影适当残差来精确恢复低秩矩阵，具有较快的速度和精确度。

    Oct, 2014

  • 非凸秩近似实现的鲁棒PCA

    研究了鲁棒主成分分析方法在矩阵恢复中的应用，提出了一种比核范数更紧的非凸秩逼近方法，并且设计了一种高效的基于增广拉格朗日乘子法的优化算法。实验结果表明，该方法在精度和效率方面优于现有的最先进算法。

    Nov, 2015

  • 伪贝叶斯鲁棒PCA：算法和分析

    探讨使用罕见值鲁棒性来降低传统主成分分析的敏感性，研究低秩分解与稀疏分量，提出了一种新型的伪贝叶斯算法来解决现有非凸方法的设计缺陷，达到了顶尖表现及可扩大的操作范围。

    Dec, 2015

  • 通过梯度下降的快速鲁棒PCA算法

    本文介绍了一种非凸优化方法，用于解决全观测和部分观测情况下的鲁棒主成分分析问题，该方法与现有最佳算法相比，显著降低了计算复杂度，并且在部分观测情况下，我们的算法在有可证明的情况下也是已知的运行时间最短的算法。

    May, 2016

  • 鲁棒主成分分析及其变体的高效优化算法

    该论文回顾了现有的优化方法来解决鲁棒PCA及其变体。论文讨论了这些方法的优缺点和收敛性，并提出了一些面向多处理器环境下解决大规模问题的新算法框架的可能研究方向。

    Jun, 2018

  • 非负Rank-1健壮主成分分析不含虚假局部极小值的确切保证

    采用Burer-Monteiro方法，论文提出一种较少变量的非凸非光滑优化问题形式的低维对称和非对称正秩-1 RPCA，其具有良好的景观和不会有虚假的本地解决方案，保证了精确恢复真实主分量的强大确定性和概率保证。

    Dec, 2018

  • 噪声矩阵填充：通过非凸优化理解对凸松弛的统计保证

    本文研究了针对大规模低秩矩阵的部分和带噪声数据中的矩阵补全问题，采用凸松弛和Burer-Monteiro方法，成功地将凸松弛的实践与非凸方法的统计保证相结合，取得了近乎最优的估计误差。

    Feb, 2019