- CVPR无需对应的非刚性点集配准方法:基于无监督聚类分析
该论文介绍了一种受无监督聚类分析启发的新型非刚性点集配准方法,通过聚类中心和聚类成员分别将源点集和目标点集表述为一个整体框架,并采用带有 Ι₁- 诱导 Laplacian 核的 Tikhonov 正则化来确保平滑而更强健的位移场,在保证封闭 - 最大边际自由度的上界
这篇文章研究了核岭回归中的低秩逼近和替代方法,通过引入降维算法和核函数的正则性,探讨了降维逼近的有效维度与正则化参数的增长关系,并证明了对于合适的核函数,这种增长是渐近对数的,从而使得低秩逼近成为纽斯特伦方法。
- 一种包含缺失距离的 Nyström 方法
基于配对距离,利用锚点的距离信息确定移动节点的配置,通过基于图拉普拉斯函数的关联,引入一个新的采样模型来解决位置估计问题。
- 提高 Nyström 方法在低秩近似中的精度
本文提出了一系列启发式策略,使 Nyström 方法在 nonsymmetric 或 rectangular 矩阵中具有高准确度,通过交替方向细化过程,将 Nyström 方法和瘦秩揭示分解作为快速枢轴策略。
- 文本相似度矩阵的次线性时间近似
本篇研究文章探讨通过推荐算法,计算相似矩阵的问题,介绍了基于 Nyström 方法的一种新的推荐算法,此算法可以以亚线性时间的复杂度对任何相似矩阵进行求解,在 NLP 的不同应用场景中展示出高精确度的表现。
- Skyformer:高斯核与 Nyström 方法重构自注意力
本文提出了 Skyformer 模型,借鉴了核机器的计算方法,通过将 softmax 结构替换为高斯核以稳定模型训练,并将 Nyström 方法调整为一个非半正定矩阵以加速计算,实验结果表明该模型不仅需要的计算资源更少,而且在大规模 Are - Nyström 方法与稀疏变分高斯过程之间的联系和等价性
研究稀疏逼近方法在进行核方法和高斯过程(GPs)的大规模数据方面的连接,着重于 Nyström 方法和 Sparse Variational Gaussian Processes (SVGP)。在回归问题的上下文中,提供一种 RKHS 解释 - AAAINyströmformer:一种基于 Nyström 方法的自注意力近似算法
通过利用 Nyström 方法逼近标准的自注意力机制,在保证短序列数据表现不下降的情况下,提高了效率,扩大了长序列数据自注意力机制的适用范围。
- 对于纵列子集选择和 Nyström 方法的改进保证和多下降曲线
本文提出了利用数据矩阵的谱属性来获得改进的逼近保证,超越了标准的最坏情况分析,研究结果显示:逼近因子作为 k 的函数可能会呈现多个波峰和波谷,这被称为多峰曲线。
- 基于 Nystrom 方法的高度可扩展 Sinkhorn 距离
本文介绍了一种新的计算 Sinkhorn 距离的方法,该方法结合了 Nyström 方法和 Sinkhorn Scaling,具有显著的计算效率,适用于海量数据。
- ICML再生核 Krein 空间中的可扩展学习
本文首次提供了 Nyström 方法用于求解不定核的低秩矩阵逼近的数学完整证明,并提出了一种高效的方法来寻找这种核矩阵的近似特征分解,以此构建可在再现核 Krein 空间中学习的高度可扩展方法。这些方法提供了一种有原则的并且理论基础良好的方 - ICML隐式分布的梯度估计的频谱方法
该论文提出了一种基于 Stein 恒等式和核算子的谱分解的梯度估计器,其中的特征函数由 Nyström 方法近似,可以直接估计梯度函数,适用于无采样点的外样本拓展,应用于无梯度的 Hamiltonian Monte Carlo 和带隐式分布 - 可扩展的非参数学习的分层组合核
本文提出了一个基于层次划分的新型核函数,可以减轻用于核方法的大规模非参数学习的计算复杂度并且在实验中提高了表现。
- 多尺度拉普拉斯图核
本文介绍了一种利用多重不同尺度结构的图形来建立层次结构的核函数,同时通过引入随机映射方法,使得这种核函数能够在计算上可行。
- 快速 DPP 采样在 Nystrom 法中的应用,用于核方法
本文通过使用 DPP 的方式选择 landmark 点来保证至少达到一定的误差边界并且减少了时间效率,在实验中它表现比现有的方法更好,特别是在 Nyström 方法和 kernel ridge regression 中有应用。
- 块坐标下降法实现大规模核学习
本文研究了分布式块坐标下降算法在解决内核回归和分类问题上的效率,通过三个大的分类任务比较了完全内核方法、Nyström 方法和随机特征法的结果,结果表明,Nyström 方法通常比随机特征法具有更好的统计精度,但可能需要更多的优化迭代。最后 - 流式核主成分分析
提出了一种基于矩阵草图的流式 Kernel 主成分分析方法,它能够在流中维护一小组基本元素,仅需要对 n 取对数的空间,比当前最先进的方法在实践中表现得更好。
- 利用行列式点过程进行多样地标采样,实现可扩展流形学习
本文介绍了一种基于确定性分布采样的非欧几里得空间地标选择方法,能够解决大量点集的流形学习计算问题,并在原始数据集的基础上恢复局部几何,利用 Bhattacharyya 距离进行相似性计算和嵌入,与现有技术相比大幅提升了性能。
- Nystroöm 方法在矩阵压缩中的应用
介绍了如何使用 Nyström 方法来寻找一般矩阵的奇异值分解和方阵的特征值分解,从而得到压缩版本的矩阵,并在选择 A_M 方面提出了一个好的初始采样算法,适用于一般矩阵和核矩阵。
- Nystrom 方法的改进界限及其在核分类中的应用
这篇文章研究了用 Nyström 方法来进行核矩阵近似时的误差边界,着重介绍了基于积分算子浓度不等式和压缩感知理论的两种方法,通过改善误差边界,使得在大本征间隔下,使用 Nyström 方法进行核分类时可以显著减少支持向量的数量,并且不严重