低秩核矩阵近似的尖锐分析
本文主要研究降低核矩阵计算成本的方法,并针对观测的核矩阵条目数或近似核矩阵的秩,确定这些方法在错误达到下限的条件。研究结果表明损失函数,正则化参数,期望预测器的范数和核矩阵秩等参数与问题难度有关,同时提出了更高效的核学习可能的情况。
Nov, 2014
这篇文章研究了核岭回归中的低秩逼近和替代方法,通过引入降维算法和核函数的正则性,探讨了降维逼近的有效维度与正则化参数的增长关系,并证明了对于合适的核函数,这种增长是渐近对数的,从而使得低秩逼近成为纽斯特伦方法。
Feb, 2024
本文章介绍了一种改进基于核方法的机器学习方法运行时间的方法,并提出了一个计算算法,该算法可以用来在不需要生成全核矩阵的情况下,对特征向量矩阵进行采样,并在统计表现和运行时间方面提供了新的保证。
Nov, 2014
本文研究了计算有效的低秩核近似的限制,证明计算相对误差 k 秩逼近 K 对于广泛类别的核,包括高斯和多项式核,至少与将输入数据矩阵 A 乘以任意矩阵 C 一样困难,并给出了一些希望:首次证明对于一般的径向基函数核, 如高斯核,存在 $O (nnz (A))$ 的时间近似方法。
Nov, 2017
统计学习中的各种方法建立在再生核 Hilbert 空间中的核上。在应用中,核通常根据问题和数据的特征进行选择,然后用于在未观察到解释性数据的点处推断响应变量。本文考虑了在高维紧致集合中定位的数据,并且对核本身的近似进行了讨论。新的方法考虑了径向核函数的 Taylor 级数近似。对于单位立方上的 Gauss 核,本文建立了关联特征值的上限,该特征仅在指数方面呈多项式增长。新方法证实了比文献中考虑的较小正则化参数,从而导致更好的近似。该改进证实了像 Nyström 方法这样的低秩近似方法。
Mar, 2024
本文研究了基于随机矩阵的核岭回归近似方法,证明了可以仅仅选择与统计维度成比例的投影维度来保持最小极值,从而实现了快速和极小极值的非参数回归估计。
Jan, 2015
通过矩阵分解和投影梯度下降算法解决约束最优化问题,提供了一种通用理论框架,当给定适当的初始化时,可以几何级数地收敛到具有统计意义的解,适用于许多具体模型。
Sep, 2015
本文提出了一种基于截断的异性低秩正则化方法,通过使用功率方法逼近奇异值分解以提高计算效率,相比于传统核范数正则化方法,实验结果表明所提出的方法在矩阵补全领域有更快的速度和更高的准确率。
Dec, 2015
证明对于任意实值矩阵 X,在正整数 r≥k 的情况下,存在 X 的 r 个列的子集,将 X 投影到其中一个列的线性组合中,得出的结果将是 Frobenius 范数下的 X 的最佳秩 - k 逼近的一个近似值等于 sqrt ((r + 1)/(r-k +1))。并提出一个确定性算法可在 O (r n m^ω log m) 时间内找到这样的列的子集,其中 ω 是矩阵乘法的指数。同样,我们提供了一种更快的随机算法,可在 O (r n m^2) 时间内进行运算。
Apr, 2011