方根 Lasso:通过圆锥规划实现稀疏信号的关键恢复
本文研究考虑设计误差的线性回归模型,针对在实践应用中常见但引入噪声的自变量情况,提出了一种基于稀疏性假设的估计方法,并指出该方法在极小化期望风险下是近乎最优的。所提出的估计方法可以通过解线性规划问题实现高效计算,同时具有达到极小化效率界的估计量。
Aug, 2014
通过 Thresholded Lasso 过程,对带噪声的低维数据进行精确估计,同时实现对是稀疏向量的估计和预测,这是因为该过程遵循受限特征值条件和匀致不确定性原则,简而言之,提出了使用 Lasso 方法求解线性模型上的稀疏问题的新方法,并通过模拟验证了理论分析的正确性。
Feb, 2010
针对高维线性回归模型的参数拟合问题,考虑基于 Lasso 惩罚的最小二乘估计器的置信区间和 p 值的构造及去偏的版本,进一步在随机设计模型的情形下进行研究,并提出了更优的平均检测功率的分析结果。
Nov, 2013
本文研究高维统计中的稀疏线性回归问题,特别关注相关随机设计条件下的 Lasso 算法以及基于特征适应的算法,提供了可以自适应处理少量近似相关性的 Lasso 算法优化及多项式复杂度的改进,以实现在常数稀疏度和任意协方差 Σ 情况下的最优样本复杂度。
May, 2023
该研究介绍了两种计算方法,分别是自适应选择调整参数的 Lasso 估计器和 Slope 估计器,可以在满足限制特征值条件和更多约束条件的情况下,在高维线性回归上实现准确的最小化预测和 l2 估计率。
May, 2016
研究了在包含噪声的观测中一直稀疏模式的一致估计问题,分析了 Lasso 去恢复稀疏模式的行为, 并根据高斯集合的相互不相关性条件建立了问题维数、非零元素数量和观测数之间的关系,并通过计算明确了阈值,确定了可靠恢复稀疏模式所需的观测数的下限和上限,从而解决了该问题。
May, 2006
本文主要研究了在高维数据下 Lasso 作为一种正则化和变量选择技术的一些性质,特别关注了 Lasso 在松弛 irrepresentable 条件之后的一些表现,包括一些适用于固定设计的条件以及一些收敛性的结果。最后,文章通过天体物理学中相邻频率的检测问题进行了结果论证。
Jun, 2008
本研究针对机器学习中使用的 Square-root-Lasso(SQRT-Lasso)回归问题,发现通过研究建模结构,这种方法可以同时获得效率和准确性,同时提出使用 proximal 算法(如 proximal gradient descent,proximal Newton 和 proximal quasi-Newton)进一步地提高效率。
May, 2016
本论文研究线性回归问题并提出了一种新的算法,它能够在存在离群值的情况下,对有限矩(至 $L_4$)的样本进行最佳的次高斯误差边界估计,并且通过使用谱方法研究了线性回归问题与最远超平面问题之间的关系,同时引入了第三个经验过程进行统计学属性的研究。
Jul, 2020