本文针对 SIRV 或复合高斯过程的高维协方差估计问题，提出收缩方法，包括使用一个简单、闭合和数据相关的选择来定位收缩系数，模拟表明该方法具有低的估计误差并且对重尾样本具有较好的鲁棒性，最后在无线传感器网络的活动 / 入侵检测中展示了该方法的性能。

Sep, 2010

本文提出了一种快速且准确的基于参数学习的交叉验证策略 ALOOCV，并利用其开发了一种基于经验风险最小化框架的正则化优化算法。

Nov, 2017

多目标线性收缩是标准单目标线性收缩在协方差估计中的扩展，通过将几个常数矩阵（目标）与样本协方差矩阵相结合，推导出具有精确和经验均值的正式多目标线性收缩估计器，并在 Kolmogorov 渐近性下证明了其收敛性。最后，我们通过实验证明，在各种情况下它优于其他标准估计器。

May, 2024

本文利用留一交叉验证的方法，对 LASSO 方法中惩罚项权重的确定进行了研究并提供了两种求解 CV 误差的简单公式，最后将公式应用于超新星实验数据的分析。

Dec, 2015

本文提出了两种框架来解决高维情境下通过加入惩罚项来降低过拟合的问题，同时证明了二者在光滑条件下的等效性，并在多个标准问题中验证了该方法的有效性。

Jul, 2018

我们提出了一种快速计算方法，用于 $k$- 最近邻回归的留一交叉验证（LOOCV）。我们表明，在最近邻的打破平局条件下，$k$- 最近邻回归的 LOOCV 均方误差估计与在训练数据上评估的 $(k+1)$- 最近邻回归的均方误差相同，乘以缩放因子 $(k+1)^2/k^2$。因此，为了计算 LOOCV 分数，只需要拟合 $(k+1)$- 最近邻回归一次，而不需要根据训练数据进行 $k$- 最近邻回归的训练验证重复次数。数值实验证实了该快速计算方法的有效性。

May, 2024

提出了一种在不强加限制性假设的情况下构建协方差估计器的原则方法，通过最小化与接近名义分布的所有数据分布相关的最坏情况 Frobenius 误差来研究分布鲁棒协方差估计问题，证明了鲁棒估计器的有效计算性、渐近一致性和有限样本性能保证，并通过合成 Kullback-Leibler、Fisher-Rao 和 Wasserstein 散度的显式估计器来说明这一通用方法。基于合成和实际数据的数值实验表明，我们的鲁棒估计器与最先进的估计器具有相竞争的性能。

May, 2024

分析了在高维最小二乘回归中应用的广义交叉验证（GCV）和留一交叉验证（LOOCV）的统计特性，证明了 GCV 作为早期停止梯度下降的预测风险估计量普遍不一致，而 LOOCV 则沿着梯度下降轨迹一致收敛于预测风险。利用个别 LOOCV 误差，构建了整个梯度下降轨迹上预测误差分布的一致估计量和广泛的误差函数的一致估计量，这特别使得基于 GD 迭代的路径预测区间在培训数据条件下具有渐近正确的名义覆盖率。

Feb, 2024

该论文提出了针对高维问题的协方差估计收缩方法，包括 RBLW 估计器和 OAS 估计器，两者使用简单且易于实现，数值模拟表明 OAS 可以胜过 RBLW，尤其是在 n 远小于 p 时，同时论文也将这些技术应用于自适应波束成形。

Jul, 2009

提出了一种用于调整岭回归的正则化超参数 λ 的新方法，比留一法交叉验证 (LOOCV) 更快速计算，同时产生等效或更好的回归参数估计，尤其在稀疏协变量的情况下。

Oct, 2023