本文提出一种新的机制，通过采用反向终止方法，在算法的随机游走长度之间产生负相关性，从而改善最近引入的图形随机特征（Graph random features，GRFs）类的准蒙特卡洛（quasi-Monte Carlo，q-GRFs ）在稍加限制下证明了它们在 2 - 正则拉普拉斯核的较低方差估计器效果，并在多种任务上展示了实证精度提高。

May, 2023

在大规模回归问题中，通过通过定义核函数的谱密度，利用 Monte Carlo 抽样生成有限的样本集合以形成近似的低秩高斯过程（GP），随机 Fourier 特征（RFFs）显著提高了 GP 的计算可扩展性和灵活性。然而，RFFs 在核逼近和贝叶斯核学习中的有效性取决于能否轻松地采样核谱测度并生成高质量的样本。我们引入 Stein 随机特征（SRF），利用 Stein 变分梯度下降，可以用于生成已知谱密度的高质量 RFF 样本，以及灵活高效地近似传统上非分析的谱测度后验。SRFs 只需要评估对数概率梯度，即可同时进行核逼近和贝叶斯核学习，从而在传统方法上实现更好的性能。通过将其与基准模型在核逼近和众所周知的 GP 回归问题上进行比较，我们经验证明了 SRF 的有效性。

Jun, 2024

通过扩展线性代数到再生核希尔伯特空间（RKHS）并将其简化为 Sylvester 方程的算法，我们构建了一个统一的框架来研究图形内核，这使得内核计算的时间复杂度从 O（n^6）降至 O（n^3），当图形稀疏时，共轭梯度求解器或固定点迭代带入子立方域。

Jul, 2008

随机特征逼近是加速大规模算法中核方法的最流行技术之一，并提供了对深度神经网络分析的理论方法。我们分析了与随机特征相结合的一大类谱正则化方法的泛化性质，包括梯度下降等具有隐式正则化的核方法或 Tikhonov 正则化等明确方法。对于我们的估计器，我们在适当的源条件下定义的规则性类别（甚至包括不在再生核希尔伯特空间中的类别）上获得了最佳学习速率。这改进或完善了先前在特定核算法相关设置中获得的结果。

Aug, 2023

提出了一种新的混合随机特征 (HRFs) 类用于线性化 Softmax 和高斯核，通过波谷转换并利用随机特征来提供更精确的核估计，具有较强理论保证，经过实证评估，在点核估计实验中获得了好的结果，同时还能应用在数据聚类以及机器学习下游应用中。

Oct, 2021

本文提出了一种新的全局对齐图核算法，该算法利用几何节点嵌入和基于 Earth Mover's distance 的关联节点传输，得到的图嵌入称为 “随机图嵌入（RGE）”，可以通过定义在随机图上的分布自然地产生随机特征近似，实验结果表明 RGE 超越或匹配了十二个最先进的图分类算法。

Nov, 2019

本文介绍了核方法在机器学习问题中的应用，提到了采用随机傅里叶特征解决大规模数据集问题的方法，并给出了更好的误差界限及嵌入方式的理解、近似误差、在某些机器学习方法中的使用，同时指出了该特征的两种变体中，更常用的一种在高斯核中具有严格更高的方差且具有更糟糕的界限的令人惊讶的事实。

Jun, 2015

本文通过理论分析，详细研究了随机傅里叶特征（RFF）在逼近质量方面的表现，并提出了一种 RFF 逼近核的导数的方法。

Jun, 2015

基于随机算法和集合卡尔曼反演的随机特征回归 (RFR) 的随机目标函数为矢量值随机特征的超参数优化引入了一种新的黑盒方法，该方法在多个对超参数选择敏感的问题中展示了成功，包括两个全局敏感性分析、在混沌动力学系统中进行集成和从大气动力学解决贝叶斯反问题。该方法为 RFR 提供了自动优化超参数的潜力。

Jun, 2024

在去中心化的核岭回归中，为了保证节点之间的一致性，通常会对特征系数施加约束，但是在许多应用中，不同节点上的数据在数量或分布上存在显著差异，因此需要能够生成不同随机特征的自适应和数据相关方法。针对这个关键难题，本文提出了一种新的去中心化核岭回归算法，该算法通过追求决策函数的一致性，实现了对节点上数据的灵活适应。经过严格的收敛性分析和数值验证，我们得出结论：在保持与其他方法相同的通信开销的同时，我们在六个真实世界数据集中平均提高了 25.5％的回归准确性。

May, 2024