提出了一种新的混合随机特征 (HRFs) 类用于线性化 Softmax 和高斯核，通过波谷转换并利用随机特征来提供更精确的核估计，具有较强理论保证，经过实证评估，在点核估计实验中获得了好的结果，同时还能应用在数据聚类以及机器学习下游应用中。

Oct, 2021

本文研究了利用 Optical Processing Unit 对大规模的 RF 进行快速且高能效的运算，得出此操作结果可以得到与多项式核函数相关的点积核，同时在核岭回归和图像分类中获得了优异的表现。

Oct, 2019

本文通过使用正交矩阵代替高斯随机矩阵来减小核近似误差提出了正交随机特征和结构化正交随机特征，并为此行为提供理论和实证证据。实验结果证明了与现有方法相比 ORF 和 SORF 的有效性。

Oct, 2016

在大规模回归问题中，通过通过定义核函数的谱密度，利用 Monte Carlo 抽样生成有限的样本集合以形成近似的低秩高斯过程（GP），随机 Fourier 特征（RFFs）显著提高了 GP 的计算可扩展性和灵活性。然而，RFFs 在核逼近和贝叶斯核学习中的有效性取决于能否轻松地采样核谱测度并生成高质量的样本。我们引入 Stein 随机特征（SRF），利用 Stein 变分梯度下降，可以用于生成已知谱密度的高质量 RFF 样本，以及灵活高效地近似传统上非分析的谱测度后验。SRFs 只需要评估对数概率梯度，即可同时进行核逼近和贝叶斯核学习，从而在传统方法上实现更好的性能。通过将其与基准模型在核逼近和众所周知的 GP 回归问题上进行比较，我们经验证明了 SRF 的有效性。

Jun, 2024

通过正交随机特征来近似普遍的高斯核，本研究分析了基于正交随机特征的核逼近的偏差和方差，并通过使用归一化贝塞尔函数推导出了明确的表达式，并提供了支持正交随机特征比随机傅里叶特征更具信息性的尖锐指数界限。

Oct, 2023

本文通过理论分析，详细研究了随机傅里叶特征（RFF）在逼近质量方面的表现，并提出了一种 RFF 逼近核的导数的方法。

Jun, 2015

本文介绍了图随机特征（GRFs）的机制，并对其进行了理论和实证分析。GRFs 可以用于构建基于图节点定义的多个重要核函数的无偏随机估计器。相比传统的图核函数算法，GRFs 具有显著的计算性能。此外，GRFs 还提供了一种简单的分布式算法以及其改进版本 q-GRFs 来优化 GRFs 的方差，尤其适用于解决具有正对称矩阵的线性方程组。

Apr, 2023

本文提出一种基于 Fourier 分析的方法，用于训练翻译不变或旋转不变的核，并通过一种在线平衡找到动态算法来解释我们的算法，并在合成和现实世界数据集上进行评估，证明了扩展性和与相关随机特征方法相比的一致改进。

Oct, 2017

本文分析了两种常见的高斯过程方法：早期截断共轭梯度（CG）和随机傅里叶特征（RFF），发现两种方法都会对学习到的超参数引入系统偏差：CG 倾向于欠拟合，而 RFF 倾向于过拟合。我们使用随机截断估计器解决了这些问题，以换取增加方差的无偏差性。在 RFF 的情况下，我们发现偏差 - 方差转换确实是一种权衡：额外的方差对优化产生负面影响。但是，在 CG 的情况下，我们的无偏学习方法在最小化额外计算量的同时显着优于其有偏的对照组。

Feb, 2021

提出了一种基于随机矩阵的紧凑型随机特征映射（CRAFTMaps）来更加简洁准确地近似多项式核，证明了其比以前的近似方案有优越的核重建性能，并演示了如何使用 CRAFTMaps 学习非线性多类分类器。

Dec, 2013