本文提出了一种名为 GPLC 的 GP 回归模型，该模型具有潜变量作为附加未观测到的回归协变量，能够处理非高斯残差和异方差残差的情况，采用马尔可夫链蒙特卡罗方法，实验结果表明，当数据具有异方差性时，GPLC 模型相对于标准的 GP 回归模型和只能处理异方差残差情况的 GPLV 模型，具有更好的表现。

Dec, 2012

本文针对随机设计条件下，普通最小二乘估计量和岭回归估计量进行了同时分析，并从协变量 / 响应分布的温和假设出发，提供了关于 “样外” 预测误差的尖锐结论。同时，本文揭示了估计协方差结构错误和建模错误的影响，这两种影响在固定设计条件下并不存在。而本文的主要结果证明是基于简单的分解引理与随机向量和矩阵的浓度不等式结合。

Jun, 2011

通过数据拆分技术构建的二阶段修复过程可以减弱高虚假相关性的无关变量的影响，进而实现准确的方差估计和变量选择。

Apr, 2010

本文通过研究基于方差的正则化器提供了对 V-REx 的理论洞察，提出了 Risk Variance Penalization (RVP) 的概念，改进了 V-REx 的正则化约束，解决了 V-REx 的理论问题，并为 RVP 提供了理论解释和理论驱动的参数调整方案。实验证明，RVP 在一定条件下可以发现不变的预测器。

Jun, 2020

在高维正则化回归中，我们使用旋转不变协变分布来建模结构化的样本依赖性和重尾现象，并引入了一种可靠执行交叉验证的新框架 ROTI-GCV，同时提出了在这些具有挑战性的条件下对信噪比和噪声方差进行估计的新估计器。通过广泛的实验，我们展示了我们方法的强大性以及其相较于现有方法的优越性。

Jun, 2024

本文在高维渐近极端条件下，对岭回归和正则化判别分析在密集随机效应模型中的预测风险进行了统一分析，并提供了两种方法的极限预测风险的明确和高效可计算的表达式。同时，揭示了岭回归和正则化判别分析各自的一些定性见解，本分析基于最近在随机矩阵理论领域的一些新进展。

Jul, 2015

通过对方差进行可解释的对称分解，探讨了深度学习算法的偏差与方差之间的关系，发现随着网络宽度的增加，偏差单调下降，但方差存在非单调行为，并可以通过集成学习消除互作用导致的方差发散。

Nov, 2020

本文研究线性收缩估计器的参数选择，并提出了数据驱动的交叉验证方法，用于自动选择收缩系数，以最小化估计误差的弗罗贝尼乌斯范数。该方法不仅适用于使用样本协方差矩阵和多种典型收缩目标的收缩设计，还可用于使用一般收缩目标，多个目标和 / 或基于最小二乘法的协方差矩阵估计器的方案，并在数种不同的阵列信号处理问题中展示了应用。

Oct, 2018

提出了一种新的 $model$-$X$ knockoffs 框架，可以在高维逻辑回归中有效地控制假发现率，甚至可以在条件分布完全未知的情况下实现控制变量选择，并且在研究英国克罗恩病的病例对照研究中，与原始分析相比可以发现两倍的结果。

Oct, 2016

大多数实际应用中的数据收集通常包含缺失值，这些缺失值通常是非随机缺失，从而降低了模型的预测性能。本文首先从理论上揭示了正则化技术的局限性，并进一步说明，对于更一般的估计器，无偏性必然导致方差无界。然后，我们开发了一种系统的精细动态学习框架，通过预定义的目标函数为每个用户 - 项对自适应选择适当的估计器，从而联合优化偏差和方差。通过这种操作，模型的泛化界限和方差减少并且有理论保证。通过大量实验证实了理论结果和所提出的动态学习框架的有效性。

May, 2024