本文提出了一种新的罚函数 —— 迹 Lasso 来稳定估计设计矩阵相关的线性模型的参数向量,并提出了一种改进的最小二乘优化算法,模拟实验结果表明,该方法相比于其他方法(如弹性网)更适用于强相关情况。
Sep, 2011
本文提出一种通过交替固定秩优化与秩一更新来解决低秩矩阵迹范数最小化问题的算法,针对具有理曼结构的非线性搜索空间,利用有效的因子分解实现了迹范数在搜索空间的可微以及对偶间隙的数值计算可行,提出了一个拥有保证二次收敛速度的二阶信任域算法,并以低秩矩阵完成和多元线性回归问题为例说明了该算法的性能。
Dec, 2011
本文中提出了一种迭代元算法,通过动态扩展参数空间,避免优化陷入局部最优解,从而更好地解决低秩矩阵因式分解问题及其应用。
Jun, 2017
本文介绍用于矩阵补全、量子状态重构和压缩感知的迹回归模型。如果底层矩阵为对称半正定 (spd),且设计满足特定条件,那么优化方法的选择可能不再需要如核范数正则化这类方法,而简单的最小二乘估计法可能与正则化方法相当。
Apr, 2015
本文研究了使用组套 Lasso 进行带有正则化的最小二乘回归问题的渐近一致性和多核学习的无限维情况下的一致性性质,并提出了自适应方案以获得一致的模型估计。
Jul, 2007
本研究倡导并分析了一种基于 max-norm 的方法,在一般的采样模型下进行有噪声矩阵补全,该方法在解决低秩矩阵重构中具有最佳收敛速度,且面对不同采样分布显现出统一且稳健的近似恢复性能,同时也通过解决一阶算法来讨论该方法的计算有效性。
Mar, 2013
利用核范数正则化寻找结构化低秩矩阵的问题,我们采用线性映射来编码结构,并提出了一种更有效的方法,与同类方法相比,该方法在迭代次数和计算成本上都有所改善,并在随机系统实现和光谱压缩感知问题中表现出色。
Sep, 2015
本文介绍了一种使用低秩 SVD 计算的简单启发式算法,使得标准一阶方法可以实现局部收敛,并可用于平滑凸规划的计算,以及带缩放梯度正则化和约束半正定矩阵上的计算。这些计算为机器学习,信号处理和统计学等领域中底秩矩阵恢复问题提供了实质性帮助。
Feb, 2019
通过轨迹规范化正则化方法,可以在多任务学习中提高精度和性能,并给出过量风险界,并且独立于输入空间维度,同时考虑到数据分布的属性以及任务数和每个任务的示例数。
Dec, 2012
本文通过研究规则化问题,得出了估计误差率的界限,并扩展了 LASSO、SLOPE 和迹范数规则化的已知估计,为学习问题和规则化问题的分析提供了一个共同的框架,特别是在规则化中,各种稀疏概念的作用以及它们与真实最小化器附近的 Ψ 的亚微分的大小的联系方面。
Jan, 2016