该文介绍了如何使用 lasso 算法来进行高维稀疏图的协方差无关估计,实现了变量选择,并控制了图中误连接不同的连通分量的概率,最终实现了稀疏图的一致性估计。
Aug, 2006
本文主要研究了在高维数据下 Lasso 作为一种正则化和变量选择技术的一些性质,特别关注了 Lasso 在松弛 irrepresentable 条件之后的一些表现,包括一些适用于固定设计的条件以及一些收敛性的结果。最后,文章通过天体物理学中相邻频率的检测问题进行了结果论证。
Jun, 2008
研究证明,对于一个标准的随机设计模型,在高维回归 Lasso 估计器和高斯去噪器之间的统计关系和正则化参数的性能方面存在稳健的理论和计算结果。
Nov, 2018
通过 Thresholded Lasso 过程,对带噪声的低维数据进行精确估计,同时实现对是稀疏向量的估计和预测,这是因为该过程遵循受限特征值条件和匀致不确定性原则,简而言之,提出了使用 Lasso 方法求解线性模型上的稀疏问题的新方法,并通过模拟验证了理论分析的正确性。
Feb, 2010
本文研究了 Lasso 等凸估计量的性能,介绍了两个量,噪声障碍和大规模偏差,并证明了兼容性条件是实现快速预测速率所必需的。同时,该研究还发现了适用于跨越许多类型的设计矩阵、活跃子集和任何调优参数的损失公式,包括凸惩罚项等等,并展示了调优参数与 Lasso 的相互关系。
Apr, 2018
本文考虑了最小二乘线性回归问题,通过 L1 范数进行正则化。通过详细的渐近分析,计算了正确的模型选择(即变量选择)的概率的渐近等价。提出了一种名为 Bolasso 的变量选择算法,并在合成数据和 UCI 机器学习仓库中的数据集上进行了比较。
Apr, 2008
本文研究高维回归模型中只有少量自变量起作用的情况,提出了一种双阶段方法 Gauss-Lasso,并证明在满足广义不可表现性(GIC)条件时,Gauss-Lasso 可以正确识别自变量的作用。
May, 2013
本文考虑从具有噪音的线性观测中学习系数向量 x0,通过解决 L1 惩罚的最小二乘问题,即 LASSO 或 BPDN 问题构造一种稀疏估计器 x',对于随机矩阵序列 A,我们证明了 LASSO 的规范风险趋于极限,并获得了该极限的一个显式表达式,并进行了实际数据矩阵的模拟,表明我们的结果在广泛的实际应用中都是相关的。
Aug, 2010
本文证明了 Lasso 的鲁棒性质,并将其与物理属性,即对噪声的保护,联系起来。通过考虑不同的不确定性集合,可以得出 Lasso 的一般化形式并获得凸优化问题。同时,通过鲁棒性质可以解释为何 Lasso 解是稀疏的,并且与标准稀疏结果不同。最后,证明了稀疏性和算法稳定性是相互矛盾的,因此 Lasso 是不稳定的。
Nov, 2008
本文探讨了在高维情况下使用 Lasso 估计器进行线性回归分析中,单个回归系数的 p-value 计算问题,证明了随机设计矩阵的问题可通过解偏差的 Lasso 估计器获得计算解,最后通过统计物理中的 Replica heuristics,推导出普遍高斯设计的标准分布极限。
Jan, 2013