通过研究神经网络和核脊回归的大维行为，我们确定了核脊回归的泛化误差的精确阶数，并展示了其随 s 的不同取值的曲线如何演化，还发现了饱和效应的存在。

Jan, 2024

该研究通过建立偏差 - 方差分解方法，研究了高维核岭回归在欠参数和过参数情况下的泛化性能特征， 揭示了特定的正则化方案下偏差和方差与训练数据数量 n 和特征维度 d 的组合方式对核回归风险曲线的形状的影响。

Oct, 2020

本论文研究了在球面上进行方差损失下的未知函数 f * 的学习问题，并研究了神经切向核模型和 Rahimi-Recht 的随机特征模型等两种流行的模型，以及核岭回归。同时，论文探讨了样本数量有限或由于关于度数和样本数的适当估计而未能实现最优化性能时的情况，以及核方法随机选取核函数时的情况。

Apr, 2019

该论文研究了核岭回归在高维情况下存在偏差的问题，分析了常用核函数（如 RBF 核、内积核和全连接 NTK 核）的旋转不变性属性在高维情况下对低次多项式存在偏差，从而阐明了核岭回归普遍性一般性误差的下限，这表明核函数的结构超出了其特征值衰减和需要更精细的分析。

Apr, 2021

对于在大维度（即 n≈d^γ，其中 γ>0）的核插值的泛化能力，可能是最近核回归复兴中最有趣的问题之一，因为它可能帮助我们理解神经网络文献中报告的 “良性过拟合现象”。我们针对球上的内积核，完全描述了各种源条件（s≥0）下大维度核插值的方差和偏差的确切阶数。因此，我们得到了大维度核插值的（s，γ）相图，即确定了核插值在（s，γ）平面上的最优、次优和不一致区域。

Apr, 2024

我们建立了基于分解的可扩展核岭回归方法的最优收敛速率。该方法通过将大小为 N 的数据集随机分为 m 个大小相等的子集，为每个子集计算独立的核岭回归估计器，然后将局部解的平均值得到全局预测器，从而在计算时间上实现了大幅度的减少。

May, 2013

通过研究多层前馈 ReLU 神经网络、交叉熵损失函数、核方法等工具，我们发现标准 l2 正则化器在实际应用中具有很大优越性，并且通过构造一个简单的 d 维数据集，我们证明了有正则化器的神经网络只需要 O (d) 的数据集就能训练成功，而对于无正则化器的 NTK 神经网络，则需要至少 Omega (d^2) 的数据才能训练成功。同时，我们还证明了无限宽度的两层神经网络能够通过有噪音的梯度下降优化正则化器，并且能够得到全局最优解。

Oct, 2018

本研究提出了一种避免连续概率分布到离散分配转化中需要基于维度的限制的舍入过程，以实现线性实验设计和内核化赌博机方面的最优解的研究。

May, 2021

本文研究了实值回归分布问题，提出了一种双基估计器，旨在缓解大数据问题，具有独立于实例数量的计算复杂度和一般映射的快速收敛率。

Nov, 2013

探讨了基于经验风险惩罚的多核学习问题。它综合考虑了经验 $L_2$ 范数和核引起的再生核希尔伯特空间（RKHS）范数及其正则化参数的数据驱动选择的复杂度惩罚。主要关注的是当核心总数很大但仅需要较少数量的核心来表示目标函数时，该问题是稀疏的情况。目标是建立超预言不等式的超额风险，用于描述该方法是如何适应未知设计分布和问题的稀疏性。

Nov, 2012