Oct, 2023

基于新的稀疏诱导正则化器的鲁棒低秩矩阵补全

HTML
PDF
TL;DR本文介绍了一种新的损失函数，名为混合常规-威尔士（HOW），以及与HOW相关的一种新的稀疏诱导正则化项。我们从理论上证明了该正则化项是准凸的，其对应的Moreau包络是凸的。此外，我们推导出该Moreau包络（即接近算子）的闭式解。与需要通过迭代来寻找相应接近算子的0<p<1的lp-范数之类的非凸正则化项相比，我们开发的正则化项具有闭式接近算子。我们将该正则化项应用于鲁棒矩阵完成问题，并基于交替方向乘法算法开发了一种高效算法。对所提出方法的收敛性进行了分析，并证明了任何生成的累积点都是一个驻点。最后，基于人工合成和真实数据集的实验结果表明，我们的算法在恢复性能方面优于现有方法。
发现论文，激发创造
  • 交替最小化法实现低秩矩阵完成

    本文首次理论分析了交替极小化算法在矩阵完成和矩阵感知问题中的表现，证明了在满足某些条件下，该算法可以快速收敛到真实矩阵，同时具有更简单的分析方法。

    Dec, 2012

  • 理解矩阵补全的交替最小化方法

    使用一种基于交替最小化的新算法，在标准不连贯性假设下，可从一个未知的低秩矩阵中恢复随机子样本的条目，并减少至少一次方之秩和相似矩阵的条件数的交替最小化方法的样本大小要求。

    Dec, 2013

  • 有限样本下精确快速矩阵补全

    该论文提出了一种矩阵完成问题的快速迭代算法，该算法观测到 O(nr^5log^3 n) 的条目，具有确定的样本复杂度，可以解决低秩矩阵恢复的问题。

    Nov, 2014

  • 快速低秩矩阵学习与非凸正则化

    本文提出了一种基于截断的异性低秩正则化方法，通过使用功率方法逼近奇异值分解以提高计算效率，相比于传统核范数正则化方法，实验结果表明所提出的方法在矩阵补全领域有更快的速度和更高的准确率。

    Dec, 2015

  • 近乎最优的鲁棒矩阵完成

    本文提出了一种简单的投影梯度下降方法来估计低秩矩阵，用于解决鲁棒矩阵完成问题，并且包括清除一些受损条目的步骤，并在低秩矩阵完成问题中获得了最优观测次数和最优破坏次数的解决方法。同时，本文的结果还意味着，对于低秩矩阵完成问题的时间复杂度界限，取得了重要的改进。最后，通过将结果应用于鲁棒PCA问题，得到了高效的解决方案

    Jun, 2016

  • 非凸矩形矩阵完整性的无 L2,∞ 正则化梯度下降

    本文介绍了如何通过改进梯度下降的技术和方法，将矩阵填充的采样率由O(poly(条件数)*mu^3*r^3*log^3n/n)降低至O(mu^2*r^2*条件数^14*log(n)/n)，并且这些技术和方法在改善其他相关问题的分析方面也具有潜在的用处。

    Jan, 2019

  • 适用于低秩矩阵恢复的因子组稀疏正则化

    本文提出了一种新的非凸规范化算法，基于矩阵分解中非零列数的松弛，能够更加高效、准确地完成低秩矩阵的恢复和主要成分分析。

    Nov, 2019

  • 增强低秩矩阵补全的稀疏正则化生成框架

    应用半二次优化于损失函数可以产生对应的正则化器，而这些正则化器通常不具备稀疏诱导能力。为解决这个问题，我们设计了一个能够生成具有闭式近似算子的稀疏诱导能力正则化器的框架。此外，我们使用几个常用的损失函数来明确我们的框架，并产生相应的正则化器，这些正则化器则被采用作为非凸秩代理用于低秩矩阵完成。此外，我们还开发了基于交替方向乘子法的算法。广泛的数值结果表明我们方法在恢复性能和运行时间方面的有效性。

    Oct, 2023

  • 通过新颖的稀疏感应正则化方法进行低秩张量补全

    提出了一种通过闭合形式的阈值函数来生成稀疏感应正则化器，并应用于低秩张量补全问题中，基于交替方向乘子法的高效算法被开发，证明生成的序列是有界的并且任何极限点都是一个稳定点。在合成和实际的数据集上的实验结果表明，所提出的算法在恢复性能方面优于现有技术方法。

    Oct, 2023

  • 基于凸化的离散感知矩阵补全的 l₀-范数逼近

    在结构化环境下，本文提出了一种改进的低秩矩阵补全方法，通过引入离散字母表集合，使用基于连续可微函数的分数规划方法规范离散性，从而比现有方法和基于L1范数的离散感知矩阵补全方法具有更好的性能。

    May, 2024