Sep, 2011

GLMMLasso：一种使用 L1 惩罚的高维广义线性混合模型算法

PDF
TL;DR我们提出了一个 L1 惩罚算法，用于拟合高维广义线性混合模型，并建议使用最大似然重新拟合模型。在模拟和实际数据示例中，我们演示了该算法的性能，并在 R 包 glmmixedlasso 中实现了该算法。
l1-penalized algorithmgeneralized linear mixed modelsvariable screeningmaximum likelihoodglmms
发现论文，激发创造
  • 使用 $l_1$ 惩罚的高维线性混合效应模型估计

    本研究提出了一种针对高维线性混合效应模型的 $\ell_1$- 惩罚估计过程，该模型对于高维观测中存在分组结构的数据非常有用。我们证明了一致性和优化性结果，并开发了一种具有可证明数值收敛性的算法。此外，我们还在模拟和实际高维数据集上展示了该方法的性能。

    Feb, 2010

  • 预测套索

    本文提出了一种缩减程序，可以在广义线性模型中进行同时变量选择和估计，以明确的预测动机为基础，结果与完整模型相似的预测性能下选择出一个简明模型。

    Sep, 2010

  • 拟合受限 Lasso 的算法

    本研究比较了在求解有约束的 Lasso 问题中的几种不同的计算策略（包括二次规划、交替方向乘子法、以及一种高效的求解路径算法）。在通过模拟和真实数据示例的比较之后，提出了适用于不同数据规模下的实际建议，同时也发现一般化 Lasso 可以转化为有约束的 Lasso 问题，但反之则不成立。因此，该研究的方法也可以用于估计具有广泛应用的一般化 Lasso。

    Oct, 2016

  • 高维广义线性模型与套索法

    研究了具有 Lipschitz 损失函数的高维广义线性模型，并证明了带有 Lasso 惩罚项的经验风险最小化算子的非渐进性 oracle 不等式。惩罚项是基于线性预测中的系数，在经验规范化后计算。研究包括逻辑回归、密度估计、带有 Hinge 损失的分类和最小二乘回归。

    Apr, 2008

  • 混合回归模型的 L1 正则化

    本文针对高维数据中变量数目远远大于样本量的情况，提出了一种有限混合回归模型。针对此类模型中的非凸问题，本文提出了一种 l1 - 惩罚最大似然估计方法，并使用有效的 EM 算法进行求解，同时也给出了一些渐近理论和预测间隔。

    Feb, 2012

  • 广义 Lasso 双路径算法的高效实现

    针对 Tibshirani 和 Taylor（2011）的广义套索双路径算法，描述了覆盖任何惩罚矩阵 D 和任何（完整列秩）预测变量矩阵 X 的通用方法，并针对趋势滤波问题、融合套索问题和稀疏融合套索问题的特殊情况描述了快速实现。这些算法都可以在 CRAN 存储库中找到的 genlasso R 包中使用。

    May, 2014

  • 关于群 Lasso 和稀疏群 Lasso 的说明

    该论文探讨了基于群回归的线性模型问题，提出了一种更加通用的罚函数，该罚函数将 L1 范数和群 L2 范数相融合，可以同时稀疏化群和个体特征。此外，为了解决该问题，提出了一种基于坐标下降的高效算法，该算法也适用于处理非正交模型矩阵的群回归的一般形式。

    Jan, 2010

  • LMM-Lasso: 带人群结构校正的 Lasso 多标记混合模型关联分析

    该研究提出了 LMM-Lasso，一种混合模型，可以进行多基因映射和校正混杂效应，能够大幅提高遗传可遗性，同时更有可能检索到真实的关联，实践中在拟南芥和小鼠的数据中找到 91% 的表型变异的遗传原因。

    May, 2012

  • 通过稀疏极大似然估计进行模型选择

    使用加入 l1-norm 惩罚项的最大似然问题的解决办法来估计高斯或二元分布参数，以得到稀疏的无向图模型，并利用块坐标下降和 Nesterov's 一阶法等算法将复杂度限制在可接受范围内。

    Jul, 2007

  • 广义 Lasso 的解路径

    本文提出了一种计算广义套索问题路径的基于对偶问题的算法，能够解决广泛的应用场景，并通过对 $I$ 的情况，与 LARS 算法建立联系，并导出了广义套索拟合的自由度的无偏估计，该估计在很多应用中都非常直观。

    May, 2010