高维低秩矩阵的估计
研究高维推断中估计矩阵的问题,提出基于迹或核范数的正则化 M 估计方法来近似低秩矩阵,分析其性能并提供 Frobenius 范数误差的非渐近界限,并应用于多变量回归、向量自回归过程等特定矩阵模型,模拟结果与理论预测吻合度高。
Dec, 2009
本文研究迹回归模型,提出一种新的核范数惩罚估计器用于矩阵补全问题,并证明了其比以前的方法具有更快的收敛速度的预言不等式。最后,我们表明我们的程序提供了 $A_0$ 数据的秩的准确恢复。
Nov, 2010
本文介绍了一种罚矩阵估计过程,旨在同时具有稀疏和低秩的解决方案。我们引入了一个凸混合惩罚,同时涉及 l1 范数和迹范数。我们在链接预测问题中限制了广义误差,并开发了近端下降策略以有效解决优化问题,并在合成和真实数据集上评估了性能。
Jun, 2012
本文研究了通过核范数最小化从采样测量中恢复 Hermite 低秩矩阵的问题,其中测量是 Frobenius 内积形式的随机秩一矩阵,我们导出了确保成功恢复矩阵所需的测量数的界限,同时证明了测量扰动的鲁棒性和近似 4 - 设计对相位恢复的一般性限制。
Oct, 2014
通过对两个 m 维变量的光滑函数进行采样生成的矩阵的低秩逼近是本文关注的重点。我们否定了先前文献中对一个特定类别的解析函数所提出的论点,即这些矩阵可以独立于 m 具有准确的逐个元素的秩逼近。我们在理论上解释了支持该论点的数值结果,并描述了三个更窄的函数类别,其中 n×n 由函数生成的矩阵可以在与维度 m 无关的情况下以 O (log (n)ε^(-2) polylog (ε^(-1))) 的逐个元素误差逼近。我们还将我们的论点扩展到了由 m 维变量的多线性积生成的张量的低秩张量列逼近。我们在 Transformer 神经网络的注意力低秩逼近的背景下讨论了我们的结果。
Jul, 2024
研究嵌入低秩矩阵流形的黎曼优化方法在矩阵补全问题上的应用和收敛性,其中采样复杂度能进一步通过重新采样的黎曼梯度下降初始化方法减小,这取决于采样算子的像的非对称限制性同构性质和低秩矩阵流形的曲率。
Mar, 2016
研究在估计一个未知的 $n*m$ 矩阵 $X_0$ 时,采用了核范数正则化的方法进行去噪,并使用软阈值法求解核范数正则化问题,同时推导了极小极大均方误差的渐进性质及其临界阈值。
Apr, 2013
本文研究了在正定核框架下的监督学习问题,提出了基于随机矩阵列采样的核矩阵低秩近似方法,此方法可以在 sub-quadratic 的时间复杂度内有效解决核矩阵计算问题,同时保持预测性能不变。
Aug, 2012