针对秩最小化的可计算和可扩展的谢顿准范数逼近
本文研究了套索正则化与奇异值的和(trace norm)正则化在估计低秩矩阵中的应用,并扩展了套索的一些一致性结果以提供必要和充分的条件,以实现具有方块差异的迹范数最小化的秩一致性,同时提供了一种自适应版本,即使不满足非自适应版本的必要条件,也可以实现秩一致性。
Oct, 2007
本文提出一种通过交替固定秩优化与秩一更新来解决低秩矩阵迹范数最小化问题的算法,针对具有理曼结构的非线性搜索空间,利用有效的因子分解实现了迹范数在搜索空间的可微以及对偶间隙的数值计算可行,提出了一个拥有保证二次收敛速度的二阶信任域算法,并以低秩矩阵完成和多元线性回归问题为例说明了该算法的性能。
Dec, 2011
本文探讨了用于张量分解的结构化Schatten范数(包括“重叠”和“潜在”两个最近提出的范数),将张量分解与结构稀疏性的更广泛文献联系起来,并从经验上发现'Schatten'的结构分析范数性能较好的“潜在”方法进行数学分析。
Mar, 2013
使用一种基于交替最小化的新算法,在标准不连贯性假设下,可从一个未知的低秩矩阵中恢复随机子样本的条目,并减少至少一次方之秩和相似矩阵的条件数的交替最小化方法的样本大小要求。
Dec, 2013
本文提出了一种新的随机算法,该算法采用特别偏向采样的方法,使误差最小化,可以在光谱范数下利用输入稀疏性生成M的秩-r逼近,并具有 better dependence on error ε,是一种高度可并行化的优化方法。此外,本论文探讨了计算两个给定矩阵的积的小秩逼近的新方法和小通信开销的改进算法。
Oct, 2014
本文提出一种简单的交替最小化算法,提供了带权重低秩矩阵恢复的可证明的等保障,并不需要关于噪声的假设,其误差随交替次数按指数级递减,初始矩阵可以由SVD或随机初始化得到,这是一种非常简单的算法,可以显着扩展矩阵补全的结果,特别是那些存在于现有研究工作中的二进制权重问题。
Feb, 2016
本文针对大规模问题,定义了容易处理的Frobenius/核混合和双核范数,通过更新两个较小的因子矩阵,设计了两种代表矩阵完成问题的高效近端交替线性化最小化算法,证明它们优于现有算法,具有更好的收敛性和性能保证。
Jun, 2016
本文通过建立Schatten-p norm与factor matrices中的Schatten-p1和Schatten-p2 norm之间的等价性,进一步扩展到多个因子矩阵中,表明其所有的因子norm都可以是任意p的凸光滑的,从而利用凸性提出加速的proximal alternating linearized minimization algorithm,并在合成和实际数据集上通过矩阵补全任务展示了其优越性能。
Nov, 2016
该研究考虑了平滑函数和矩阵的Schatten-p范数之和的最小化问题,并提出了用于解决非凸低秩最小化问题的加速迭代重新加权核范数方法,其主要创新包括具有秩识别特性的方法和自适应更新策略,通过快速将参数驱动为零,将算法转化为能有效解决平滑问题的算法。
Jun, 2024