本文介绍了一种基于结构规则的稀疏估计方法,通过应用不仅仅关注稀疏性,而且可以考虑一些结构化先验知识,这种方法可以处理多种结构的问题。同时,我们还介绍了该方法在无监督学习、非线性变量选择等方面的应用。
Sep, 2011
本文提出了一种基于理想 (凸包) 形式的新的计算稀疏回归的强凸松弛方式,采用半定优化问题在扩展空间中求解,具有更强更通用的性能。实验表明,所提出的锥形公式的解可以在几秒钟内求解,且在统计学上的预测精度和解释性上表现更佳。
Jan, 2019
本文研究了一种新的稀疏学习方法,提出了一种新的凸优化方法,利用一些子模函数的拓展得到了一类较通用的多面规范,并提供算法工具和理论结果。
Aug, 2010
本文提出了一种基于截断的异性低秩正则化方法,通过使用功率方法逼近奇异值分解以提高计算效率,相比于传统核范数正则化方法,实验结果表明所提出的方法在矩阵补全领域有更快的速度和更高的准确率。
Dec, 2015
本文研究的是如何恢复一个结构化模型的问题,我们探讨了使用多目标优化得到的结果与只利用其中一个结构的算法的结果相当的现象。此外,我们还详细研究了稀疏低秩矩阵恢复问题所需的样本数,证明了本文提出的非凸公式在这种情况下表现比凸公式更好。
Dec, 2012
提出了一种基于新原子范数的凸形式,用于稀疏矩阵分解问题,其中假设因子的非零元素个数是固定和已知的,可应用于稀疏 PCA,子空间聚类和低秩稀疏双线性回归等。使用主动集算法解决了该凸问题。
Jul, 2014
本文介绍从一般的角度分析在使用稀疏估计方法中相关的优化工具和技术,包括近端方法、块坐标下降、加权 L2 正则技术、工作集和家族方法以及非凸形式和扩展。同时,我们提供了一组广泛的实验来比较各种算法在计算方面的差异。
Aug, 2011
本文阐述了机器学习中的非凸优化问题和直接方法在此领域的成功应用,旨在介绍这一领域的文献和分析非凸问题的简单程序工具。
Dec, 2017
我们研究了一类具有秩规范化的非凸非光滑问题,以促进最优解的稀疏性。我们提出了应用近端梯度下降方法来解决该问题,并通过一种新型的支持集投影操作加速过程,作用于中间更新的奇异值。我们展示了我们的算法能够达到收敛速度为 $O (rac {1}{t^2})$,这与 Nesterov 有关于光滑凸问题的一阶方法的最优收敛速度完全相同。可以期望严格的稀疏性,且在每次更新中奇异值的支持集是单调收缩的,这在基于动量的算法中是新颖的。
Jul, 2023
本文提出一种利用基于块的 l1— 范数正则化器实现图像稀疏表示及重建的新方法,同时利用其凸性质,开发出可以保证全局最优性的计算有效的恢复算法,并在压缩图像恢复、图像恢复和鲁棒 PCA 等各种任务上证明了其有效性。
May, 2016