混合随机特征
提出了用于逼近 Gauss 核和 softmax 核的新型非三角随机特征 —— 厨师随机表 (CRTs)。CRT 是标准随机厨房水槽 (RKS) 方法的替代品。通过使用正随机特征 (RFs),CRT 可以获得更少的方差和更小的尾部。此外, CRT 可以通过利用简单计算的统计数据进一步降低方差。在多项任务中测试 CRT,获得了最先进的结果。
May, 2022
在大规模回归问题中,通过通过定义核函数的谱密度,利用 Monte Carlo 抽样生成有限的样本集合以形成近似的低秩高斯过程(GP),随机 Fourier 特征(RFFs)显著提高了 GP 的计算可扩展性和灵活性。然而,RFFs 在核逼近和贝叶斯核学习中的有效性取决于能否轻松地采样核谱测度并生成高质量的样本。我们引入 Stein 随机特征(SRF),利用 Stein 变分梯度下降,可以用于生成已知谱密度的高质量 RFF 样本,以及灵活高效地近似传统上非分析的谱测度后验。SRFs 只需要评估对数概率梯度,即可同时进行核逼近和贝叶斯核学习,从而在传统方法上实现更好的性能。通过将其与基准模型在核逼近和众所周知的 GP 回归问题上进行比较,我们经验证明了 SRF 的有效性。
Jun, 2024
本文介绍了图随机特征(GRFs)的机制,并对其进行了理论和实证分析。GRFs 可以用于构建基于图节点定义的多个重要核函数的无偏随机估计器。相比传统的图核函数算法,GRFs 具有显著的计算性能。此外,GRFs 还提供了一种简单的分布式算法以及其改进版本 q-GRFs 来优化 GRFs 的方差,尤其适用于解决具有正对称矩阵的线性方程组。
Apr, 2023
通过正交随机特征来近似普遍的高斯核,本研究分析了基于正交随机特征的核逼近的偏差和方差,并通过使用归一化贝塞尔函数推导出了明确的表达式,并提供了支持正交随机特征比随机傅里叶特征更具信息性的尖锐指数界限。
Oct, 2023
本文介绍了核方法在机器学习问题中的应用,提到了采用随机傅里叶特征解决大规模数据集问题的方法,并给出了更好的误差界限及嵌入方式的理解、近似误差、在某些机器学习方法中的使用,同时指出了该特征的两种变体中,更常用的一种在高斯核中具有严格更高的方差且具有更糟糕的界限的令人惊讶的事实。
Jun, 2015
基于随机算法和集合卡尔曼反演的随机特征回归 (RFR) 的随机目标函数为矢量值随机特征的超参数优化引入了一种新的黑盒方法,该方法在多个对超参数选择敏感的问题中展示了成功,包括两个全局敏感性分析、在混沌动力学系统中进行集成和从大气动力学解决贝叶斯反问题。该方法为 RFR 提供了自动优化超参数的潜力。
Jun, 2024
本文通过使用正交矩阵代替高斯随机矩阵来减小核近似误差提出了正交随机特征和结构化正交随机特征,并为此行为提供理论和实证证据。实验结果证明了与现有方法相比 ORF 和 SORF 的有效性。
Oct, 2016
随机特征逼近是加速大规模算法中核方法的最流行技术之一,并提供了对深度神经网络分析的理论方法。我们分析了与随机特征相结合的一大类谱正则化方法的泛化性质,包括梯度下降等具有隐式正则化的核方法或 Tikhonov 正则化等明确方法。对于我们的估计器,我们在适当的源条件下定义的规则性类别(甚至包括不在再生核希尔伯特空间中的类别)上获得了最佳学习速率。这改进或完善了先前在特定核算法相关设置中获得的结果。
Aug, 2023
本文提出一种基于 Fourier 分析的方法,用于训练翻译不变或旋转不变的核,并通过一种在线平衡找到动态算法来解释我们的算法,并在合成和现实世界数据集上进行评估,证明了扩展性和与相关随机特征方法相比的一致改进。
Oct, 2017