本文介绍了一种基于结构规则的稀疏估计方法,通过应用不仅仅关注稀疏性,而且可以考虑一些结构化先验知识,这种方法可以处理多种结构的问题。同时,我们还介绍了该方法在无监督学习、非线性变量选择等方面的应用。
Sep, 2011
本文提出一种利用基于块的l1—范数正则化器实现图像稀疏表示及重建的新方法,同时利用其凸性质,开发出可以保证全局最优性的计算有效的恢复算法,并在压缩图像恢复、图像恢复和鲁棒PCA等各种任务上证明了其有效性。
May, 2016
本文针对$m<<n$的欠定情况,在优化变量上施加先前的结构信息,将恢复问题形式化为非凸优化问题,并证明了在任何不变约束集下,投影梯度下降收敛于未知信号的线性速率,这为此数据贫瘠的场景提供了第一个可证实的算法,为理解约束非凸优化启发了强有力的工具,其数学结果为数据驱动的相位成像系统开辟了一种新的方向。
Feb, 2017
本文研究了针对大规模低秩矩阵的部分和带噪声数据中的矩阵补全问题,采用凸松弛和Burer-Monteiro方法,成功地将凸松弛的实践与非凸方法的统计保证相结合,取得了近乎最优的估计误差。
Feb, 2019
该研究提出了一种新的低秩矩阵恢复方法,采用非平滑惩罚形式,在某些具体情况下能够克服传统平滑方法的病态问题,同时具有自适应性和鲁棒性。数值实验说明了该方法在解决相位恢复、盲卷积、矩阵补全和稳健PCA等计算任务中的优势。
Apr, 2019
本文介绍了一种基于随机梯度下降法的方法,用于解决图结构稀疏约束问题,并证明该算法具有与批量学习设置中相当竞争的线性收敛率。
May, 2019
本文主要研究了基于生成模型的压缩感知问题,通过下界分析表明基于L-Lipschitz生成模型的压缩感知需要线性测量数至少是k乘以对数级别的,同时指出生成模型可以作为一种结构表示方法进行推广。作者还构造了一个具有ReLU激活的神经网络模型,其层数为O(1),每层的激活函数个数为O(kn),且该模型可以表示所有k稀疏向量。
Dec, 2019
本文提出了适应性正则化硬阈值算法(ARHT)和置换正交匹配追踪算法(OMPR)用于优化一个凸函数的目标,同时在稀疏约束下,使用受限制条件数来分析各种算法的稀疏性保证,进一步研究了基于约束等距性的压缩感知。
Jun, 2020
本文探究了迭代算法在生成模型变化下的韧性,以及一个与之相关的关于稀疏恢复的几何迭代方法,并在自然统计反问题中展示了我们方法的有效性。
Mar, 2022
本研究提出了一种基于DST方法的N:M结构稀疏化学习方案,其具有较高的稀疏度并支持常见的硬件加速方式,在理论和实践中都表现出较好的泛化性能与较低的推理时间。
May, 2023