May, 2017

广义伴随多任务 Lasso 用于稀疏多模态回归

PDF
TL;DR本研究提出了一种新的统计和计算解决方案，针对功能性脑成像的异方性回归模型，使用 Concomitant Lasso-type 估计器的表述框架，提出了一种联合凸优化公式来同时估计回归系数和噪声协方差（平方根），在解决更复杂的噪声结构时，计算效率不低于 Lasso 和 Concomitant Lasso，在多模态脑成像问题中与 M/EEG 数据相关的结果也得到了报道。
发现论文，激发创造
  • 稀疏线性回归的比例缩放

    本文介绍了一种基于稀疏回归的平衡迭代算法，通过估计噪声水平和比例调整惩罚项来求解回归系数，并证明了该方法可以同时获得噪声水平估计和回归系数估计，满足预测性和一些 Oracle 不等式条件。

    Apr, 2011

  • Lasso 和其他凸估计器的噪声屏障和大信号偏差

    本文研究了 Lasso 等凸估计量的性能，介绍了两个量，噪声障碍和大规模偏差，并证明了兼容性条件是实现快速预测速率所必需的。同时，该研究还发现了适用于跨越许多类型的设计矩阵、活跃子集和任何调优参数的损失公式，包括凸惩罚项等等，并展示了调优参数与 Lasso 的相互关系。

    Apr, 2018

  • 方根 Lasso：通过圆锥规划实现稀疏信号的关键恢复

    该论文提出了一种称为平方根 Lasso 方法的高维稀疏线性回归模型估计方法，该方法对于大量输入变量但只有少量参数起作用，不需要预估标准差，同时可以适用于高斯或非高斯误差数据。

    Sep, 2010

  • 带潜变量的套索：高效估计、协变量缩放和计算统计差距

    稀疏线性回归中的相关性以及智能缩放解决方案

    Feb, 2024

  • 群 Lasso 和多核学习的一致性

    本文研究了使用组套 Lasso 进行带有正则化的最小二乘回归问题的渐近一致性和多核学习的无限维情况下的一致性性质，并提出了自适应方案以获得一致的模型估计。

    Jul, 2007

  • 多类别下的逆协方差估计联合图形拉索

    本文研究使用高维数据集对多个相关但不同的图形模型进行估计问题，在基于组织样本的基因表达数据的分析中应用联合图形 Lasso 方法，以获得更准确的网络和协方差结构估计。

    Nov, 2011

  • Lasso 方法下的高维图表与变量筛选

    该文介绍了如何使用 lasso 算法来进行高维稀疏图的协方差无关估计，实现了变量选择，并控制了图中误连接不同的连通分量的概率，最终实现了稀疏图的一致性估计。

    Aug, 2006

  • 一种图结构的多任务回归和通用融合 Lasso 的高效优化方法

    本文提出了一种基于图的融合套索方法（GFlasso）用于结构化多任务回归问题，该方法利用了输出变量之间的图结构，通过融合惩罚函数鼓励高度相关的输出共享一组相关的输入，并提出了一种简单而有效的近端 - 梯度方法用于优化 GFlasso。

    May, 2010

  • 使用组凸规则的稀疏输入神经网络

    本文提出使用组凸正则化的稀疏输入神经网络框架，用于解决在高维数据中进行的变量筛选和非线性函数估计的问题。通过对每个输入节点的所有出节点的权重的 L2 范数应用适当的凹值惩罚，从而为每个问题生成一个小型子集，取得了令人满意的有限样本性能和稳定的解决方案。

    Jul, 2023

  • CoLiDE：Concomitant 线性 DAG 估计

    我们提出一种新的凸得分函数，用于稀疏感知线性有向无环图（DAG）的学习，在异方差场景中通过平滑的非凸无环性惩罚项进行正则化，以实现峰值同时估计，并有效地将稀疏参数与外生噪声水平解耦，该算法在大型 DAG 和异质噪声水平时展现出更高的性能，且表现出增强的稳定性。

    Oct, 2023