线性最小二乘的确切极小极大风险及样本协方差矩阵的下尾
本文研究了标准线性回归模型的极小极大收敛速度,证明在合适的设计矩阵正则化条件下,最小值误差在 $L_2$-,$L_{oldsymbol r}$- 损失和 $L_{oldsymbol 2}$- 预测损失内达到了收缩速度。同时,我们提供了 $L_{oldsymbol r}$- 范数的极小极大风险下限。
Oct, 2009
该研究介绍了一种修正的基于累积量矩阵拉普拉斯变换方法,利用该方法能够提取随机自伴随矩阵求和的每个特征值的上下界,并推导出一些新的特征值谱上的高斯型不等式。两个例子证明了该方法的有效性,分别考虑基于正交规范行矩阵的稀疏化与估计随机向量协方差矩阵的主特征值。
Apr, 2011
本文研究了基于独立的高斯观测量对高维种群协方差矩阵的主导特征向量的估计问题,建立了 $l_2$ 损失下估计量最小风险的极小界,并提出了一种新的二阶段坐标选择方案的特征向量估计方法。
Mar, 2012
该论文研究了一种简单估计技术在重尾分布下提供指数集中性的应用和推广,证明该技术可用于平滑强凸损失函数的近似最小化,特别是在最小二乘线性回归、稀疏线性回归和低秩协方差矩阵估计中具有类似的特征。
Jul, 2013
最小最大分位数是一种对比特定统计程序的黄金标准,通过引入该概念及其依赖分位水平的表达方式,作者开发了新的方法来研究鲁棒性估计问题,得到了多个重要结果,包括协方差矩阵估计、稀疏线性回归、非参数密度估计、保序回归等。作者的目标是通过最小最大分位数提供对统计问题难度的更仔细理解,并通过用户友好的工具获得这些数量的下界。
Jun, 2024
本文论述了关于从多个观察值中学习字典矩阵的问题,并得出了三个不同的下限,分别应用于不同的生成模型,特别地,其中一下限是通过假设真实字典满足受限等同性性质,并基于信噪比来计算的。
Jul, 2015
通过使用带有二次希尔伯特范数的凸经验风险正则化的学习方法,我们考虑了线性预测器和非线性预测器的设置,同时包括正定核。针对这类损失,作者提出了一种偏差 - 方差分解思路,并通过改善偏差项、方差项或二者同时来快速逼近渐进速率,从而实现在减小自相近损失假设下的非高斯预测器更快速的收敛效果。
Feb, 2019
该研究分析了离散分布估计问题,并提供了最大风险和最小极小风险的上下界,进而得出在特定条件下最大风险极小风险的渐近性能。通过该研究可得出在经验分布估计中的渐近最大风险和最小极小风险,并且通过对概率分量估计确定了渐近最小极小风险。
Nov, 2014