该论文提出了一种新的在线最小二乘法算法框架，用于对 RKH 空间中的非线性模型进行建模，通过使用核函数的傅里叶变换的随机特征，将数据映射到有限维欧几里得空间。新算法的优点是不需要任何形式的稀疏化，因为与所有现有算法相比，解决方案的大小保持不变，不随迭代步骤增加。

Jun, 2016

本文提出了一种学习方案，通过可扩展地结合多个基于单核的在线方法来减少内核选择偏差，从而扩展了单核解空间，增加了找到高性能解的可能性，并在累积正则化最小二乘成本指标方面实验证明所提出的学习方案优于单独使用的组合单核在线方法。

Aug, 2023

从有限且有噪声的数据集中学习哈密尔顿动力学的一种方法，该方法在本质上哈密尔顿向量场的再生核希尔伯特空间（RKHS）中学习哈密尔顿向量场，尤其是奇哈密尔顿向量场。使用辛对称核来实现奇对称性，以及如何将核修改为奇辛核。提出了一种随机特征近似方法，用于减小问题规模，其中包括奇核的随机特征近似。在三个哈密尔顿系统的仿真验证了该方法的性能，证明了奇辛核的应用可以提高预测精度，并且学习到的向量场是哈密尔顿的，并展现了强制施加的奇对称特性。

Apr, 2024

使用分布式学习和最小二乘正则化方案，在再生核希尔伯特空间（RKHS）中对分块数据子集应用最小二乘正则化方案生成输出函数，以其平均值作为全局估计器或预测器，具有良好的 $L^2$ 度量和 RKHS 度量误差界限。在我们的积分算子方法中，通过运算符差分的新型二阶分解实现了分析，即使对于与一般核相关联的 RKHS 中的经典最小二乘正则化方案，我们也可以在文献中给出最佳的学习速率。

Aug, 2016

利用深高斯过程（Deep Gaussian Processes）的组合结构来建模非平稳过程，并借助全局傅里叶特征提高其捕捉复杂非平稳模式的能力，通过引入基于常微分方程的傅里叶特征使我们的模型能够通过卷积操作进行自适应振幅和相位调制，进一步提升了回归任务的预测性能。

Jul, 2024

本文介绍一种在线学习算法，该算法是收敛于再生核希尔伯特空间（RKHS）中的回归函数的正则化路径的顺序随机逼近。通过小心选择增益或步长序列，我们展示了可以生产出批量学习的最佳已知强收敛速率，并给出了弱收敛速率，其在文献中达到了最小化和个人较低速率的最优水平，并利用 Hilbert 空间中鞍点型不等式为鞍点型型不等式的马尔可夫过程推导出几乎肯定的收敛。通过类似于批量学习设置的偏差 - 方差分解，我们证明偏差包括沿正则化路径的逼近误差和漂移误差，这些误差显现了相同的收敛速率，而方差则来自样本误差，分析为反向鞍点型差分序列，上述速率通过偏差和方差之间的最佳折衷得到。

Mar, 2011

研究了具有依赖性和非平稳在线数据流的递归正则化学习算法在复制核希尔伯特空间中的收敛性。通过研究随机差分方程在核希尔伯特空间中的均方渐近稳定性和随机 Tikhonov 正则化路径的概念，证明了算法输出与正则化路径一致，并且满足一定条件下算法输出与未知函数一致。对于独立和非同分布的数据流情况，通过研究边缘概率测度和定期时间段的平均测度，证明了均方一致性的实现。

Apr, 2024

本文介绍了核方法在机器学习问题中的应用，提到了采用随机傅里叶特征解决大规模数据集问题的方法，并给出了更好的误差界限及嵌入方式的理解、近似误差、在某些机器学习方法中的使用，同时指出了该特征的两种变体中，更常用的一种在高斯核中具有严格更高的方差且具有更糟糕的界限的令人惊讶的事实。

Jun, 2015

该研究论文探讨了在重现核希尔伯特空间 (RKHS) 中应用的谱算法，特别关注输入特征空间的内在结构，将输入数据视为嵌入高维欧几里得空间的低维流形，使用积分算子技术导出了关于广义范数的紧密收敛上界，证明估计器在强意义下收敛于目标函数及其导数，进一步建立了渐近优化性的最小化下界，验证了谱算法在高维逼近问题中的实际重要性。

Mar, 2024

本论文提出了一种非参数学习算法，利用状态的离散时间观测来识别非线性随机微分方程的漂移和扩散系数，其中的关键思想是拟合相应的 Fokker-Planck 方程的 RKHS 近似，通过理论估计学习率，而这个学习率与以前的方法不同，当未知漂移和扩散系数的可靠性更高时，变得更加紧密。由于我们的方法是基于核的，离线预处理可以被有利地利用以实现有效的数字实现。

May, 2023