Mar, 2013

组稀疏模型选择：难度和放松

PDF
TL;DR本研究通过图形模型的理解和动态规划技术，基于组稀疏模型的组结构，解决了组模型选择问题，提出了一种修正的组模型，并研究了两个可操作的模型的群稀疏逼近的 Pareto 前沿以及选择和计算的权衡。
group-based sparsity modelslinear regressiongroup-model selectioninterpretable signalstree sparsity model
发现论文，激发创造
  • 组稀疏加性模型

    本文提出了一种新的方法，名为群组稀疏性加性模型 (GroupSpAM)，可处理加性模型中的群组稀疏性，通过引入 Hilbert 空间内的 l1/l2 范数作为稀疏引导惩罚，推导出一种新的阈值条件来识别功能稀疏性，并提出一个高效的块坐标下降算法来构建估计，仿真实验证明 GroupSpAM 在支持恢复和预测准确性方面远优于竞争方法。

    Jun, 2012

  • 基于凸优化的结构稀疏化

    本文介绍了一种基于结构规则的稀疏估计方法，通过应用不仅仅关注稀疏性，而且可以考虑一些结构化先验知识，这种方法可以处理多种结构的问题。同时，我们还介绍了该方法在无监督学习、非线性变量选择等方面的应用。

    Sep, 2011

  • 同时结构化模型及其在稀疏和低秩矩阵中的应用

    本文研究的是如何恢复一个结构化模型的问题，我们探讨了使用多目标优化得到的结果与只利用其中一个结构的算法的结果相当的现象。此外，我们还详细研究了稀疏低秩矩阵恢复问题所需的样本数，证明了本文提出的非凸公式在这种情况下表现比凸公式更好。

    Dec, 2012

  • 适用于低秩矩阵恢复的因子组稀疏正则化

    本文提出了一种新的非凸规范化算法，基于矩阵分解中非零列数的松弛，能够更加高效、准确地完成低秩矩阵的恢复和主要成分分析。

    Nov, 2019

  • 稀疏性通过稀疏组 $k$-max 正则化

    本文提出了一种新颖简洁的正则化方法，称为稀疏分组 $k$-max 正则化，它不仅可以同时增强组内和组间的稀疏性，还对每个组内变量的大小没有额外的限制，特别适合不同尺度的变量，从而更接近逼近 $l_0$ 范数。同时，我们还建立了具有局部最优条件和复杂性分析的迭代软阈值算法。通过在合成和真实数据集上进行的数值实验，验证了该方法的有效性和灵活性。

    Feb, 2024

  • 组稀疏性的益处

    本文提出了一个基于强群体稀疏概念的群体 Lasso 理论。研究结果表明，群组 Lasso 对于强群体稀疏信号优于标准的 Lasso，这为在基础群组结构与数据一致时使用群体稀疏正则化提供了有力的理论证明。此外，理论预测了群体 Lasso 公式的一些局限性，并得到了模拟研究的证实。

    Jan, 2009

  • 组别下降算法用于具有组别预测变量的非凸罚线性和逻辑回归模型

    该论文研究使用一些非凸罚项方法解决群体选择问题并进行变量选择的统计性能比较。

    Sep, 2012

  • 关于群 Lasso 和稀疏群 Lasso 的说明

    该论文探讨了基于群回归的线性模型问题，提出了一种更加通用的罚函数，该罚函数将 L1 范数和群 L2 范数相融合，可以同时稀疏化群和个体特征。此外，为了解决该问题，提出了一种基于坐标下降的高效算法，该算法也适用于处理非正交模型矩阵的群回归的一般形式。

    Jan, 2010

  • 一种统一的动态方法用于稀疏模型选择

    本文提出一种简单的迭代正则化路径方法，通过稀疏 Mirror Descent 算法或带有非线性损失的 Linearized Bregman 迭代的动态，在 Restricted Strong Convexity (RSC) 和 Irrepresentable Condition (IRR) 的限制下，以达到不出错的子空间为首要目标，运用于稀疏逻辑回归和 Ising 模型的 NIPS 合著问题上，其性能与 glment 相当，进一步减小了偏差。

    Oct, 2018

  • 稀疏回归的一级凸化

    本文提出了一种基于理想 (凸包) 形式的新的计算稀疏回归的强凸松弛方式，采用半定优化问题在扩展空间中求解，具有更强更通用的性能。实验表明，所提出的锥形公式的解可以在几秒钟内求解，且在统计学上的预测精度和解释性上表现更佳。

    Jan, 2019