Sep, 2012

回归中的相关变量：聚类与稀疏估计

PDF
TL;DR利用基于规范相关的层次聚类算法，针对强相关的高维线性模型提出了一种首先聚类变量然后进行稀疏估计的方法，其中对聚类代表采用 Lasso 算法或结构基于聚类的组 Lasso 算法进行后续稀疏估计，并给出理论分析和实验证明了该方法的优越性。
high-dimensional linear modelclustering algorithmcanonical correlationslassogroup lasso
发现论文，激发创造
  • 带潜变量的套索：高效估计、协变量缩放和计算统计差距

    稀疏线性回归中的相关性以及智能缩放解决方案

    Feb, 2024

  • Lasso 方法下的高维图表与变量筛选

    该文介绍了如何使用 lasso 算法来进行高维稀疏图的协方差无关估计，实现了变量选择，并控制了图中误连接不同的连通分量的概率，最终实现了稀疏图的一致性估计。

    Aug, 2006

  • 高维数据的稀疏表示 Lasso 型恢复

    本文主要研究了在高维数据下 Lasso 作为一种正则化和变量选择技术的一些性质，特别关注了 Lasso 在松弛 irrepresentable 条件之后的一些表现，包括一些适用于固定设计的条件以及一些收敛性的结果。最后，文章通过天体物理学中相邻频率的检测问题进行了结果论证。

    Jun, 2008

  • 预测套索

    本文提出了一种缩减程序，可以在广义线性模型中进行同时变量选择和估计，以明确的预测动机为基础，结果与完整模型相似的预测性能下选择出一个简明模型。

    Sep, 2010

  • 独立可解释的 Lasso：用于无相关变量的稀疏回归的新型正则化方法

    本文提出了 “独立可解释 Lasso”（IILasso）方法，以压制选择相关变量，从而每个活跃变量都能独立地影响模型中的目标变量；该方法在回归系数的直观解释和避免过拟合方面都表现良好，在综合分析和数据分析中证实了 IILasso 的有效性。

    Nov, 2017

  • 稀疏线性回归的特征自适应

    本文研究高维统计中的稀疏线性回归问题，特别关注相关随机设计条件下的 Lasso 算法以及基于特征适应的算法，提供了可以自适应处理少量近似相关性的 Lasso 算法优化及多项式复杂度的改进，以实现在常数稀疏度和任意协方差 Σ 情况下的最优样本复杂度。

    May, 2023

  • 高维线性回归中套索选择的稀疏性和偏差

    本文针对相关设计变量的稀疏 Riesz 条件，研究 LASSO 在模型选择中的速率一致性，并且发现在某些随机相关设计中变量的数量对样本数据量的对数可达到同一阶数。

    Aug, 2008

  • 估计结构向量自回归模型

    本文研究了具有结构的 VAR 模型参数在相关性干扰下的估计误差问题，发现在依赖样本的情况下，使用各种 norm 捕捉结构可与使用 Lasso-type 独立样本估计器获得相同级别的估计误差，分析方法基于 generic chaining, sub-exponential martingales 和 spectral representation of VAR models。

    Feb, 2016

  • 高维回归的稀疏拉普拉斯缩减估计器

    本文提出了一种基于 Laplacian quadratic 的罚函数的稀疏 Laplacian 收缩（SLS）方法，该方法能在鼓励稀疏性和促进相关预测变量之间平滑性的前提下，具有图表示的广义分组特性，并通过坐标下降算法进行计算。该方法表现优异且拥有选定一致性，适用于高维数据下的变量选择和估计。

    Dec, 2011

  • 迹 Lasso 的相关自适应子空间分割

    本文研究了子空间分割问题，提出了基于迹 Lasso 的自适应相关子空间分割（CASS）方法，用于同时对数据进行自动选择和相关性分组，以实现 SSC 和 LSR 之间的平衡。

    Jan, 2015