Jul, 2015

I-LAMM 用于稀疏学习：同时控制算法复杂度和统计误差

PDF
TL;DR这篇论文提出了一个名为 I-LAMM 的计算框架，旨在同时控制算法复杂度和统计误差，在拟合高维模型时具有最优的统计性能和可控的算法复杂度，本理论依赖于一种局部稀疏 / 受限特征值条件，可以分析大量的损失和惩罚函数，并在非常微弱的假设下提供最优性保证。
computational frameworkiterative local adaptive majorize-minimizationhigh dimensional modelsnonconvex optimization problemssparse/restricted eigenvalue condition
发现论文，激发创造
  • 非凸优化及非线性约束问题的不精确增广 Lagrangian 框架

    本研究提出了一种实用的不精确增广拉格朗日方法（iALM）用于具有非凸问题和非线性约束，这种方法可以在计算复杂度上符合理论结果。

    Jun, 2019

  • 非凸惩罚似然模型的一步稀疏估计

    本文利用凸惩罚函数提出了一种可变选择方法，该方法通过使用局部线性逼近算法在广泛的凹惩罚函数范围内最大化罚函数，每一步局部线性逼近都可以自然地采用稀疏表示方法，通过实验结果表明，这种稀疏估计方法的结果非常鼓舞人心。

    Aug, 2008

  • 约束非凸优化的提速不精确增广拉格朗日方法

    本研究提出了一种改进的不精确增广拉格朗日方法（iALM），并通过统一分析证明了针对具有线性等式或非凸约束的非凸问题的 iALM 的高效性，该算法在实践中比罚函数方法表现显著更好。我们的数值实验验证了所提出的方法的有效性，具有重要的理论和实践意义。

    Jul, 2020

  • 稀疏非凸学习问题的最优计算和统计收敛速率

    提出了一种近似正则化路径追踪方法，用于求解许多具有非凸问题求解的学习问题，该算法迭代复杂度与全正则化路径相同，可以同时提供统计和计算收敛率的显式表达式，并可以实现全局几何收敛，以及对于所有近似局部解的样本复杂度分析和精确支持恢复结果。

    Jun, 2013

  • 双域稀疏视角 CT 重建的学习交替最小化算法

    本文提出了一种新颖的学习交替最小化算法（LAMA），用于双域稀疏视图计算机断层成像（CT）图像重建，并在众多基准 CT 数据集上显示 LAMA 显着优于现有方法。

    Jun, 2023

  • 一种加速线性化交替方向乘子法

    提出一种新颖的框架 AADMM，用于加速线性化交替方向乘子法 (ADMM)，对于一类具有线性约束的凸复合优化问题，AADMM 的收敛速度比线性化 ADMM 更快，而且当相应的鞍点问题有解时，AADMM 能够处理无边界的可行域，并提出了一种回溯算法来提高实际性能。

    Jan, 2014

  • 并行分裂快速近端线性交替方向乘子方法

    提出快速近端改进增广拉格朗日方法 Fast PALM 和快速近端交替方向乘子方法 Fast PL-ADMM-PS 用于解决凸规划问题，成果表明与传统方法相比，算法具有更好的收敛速度和迭代复杂度.

    Nov, 2015

  • ALMA: 基于数学的一种方法，用于确定广义 LASSO 问题的调整参数，及其在 MRI 中的应用

    通过 TV-regularized LASSO 方法和 ALMA 算法，本研究为 MRI 重建过程中选择合适的调优参数提供了一种数值求解约束优化问题的有效工具。

    Jun, 2024

  • 重新思考对数几率：线性概率建模与可解释的机器学习中的专家建议

    本研究提出了一系列可解释的机器学习模型，包括使用 Linearised Additive Models 和 SubscaleHedge 算法的 GAMs，并通过对广泛的金融建模数据进行严格的假设检验，表明这些算法在 ROC-AUC 和校准方面没有明显的性能下降。

    Nov, 2022

  • 多元凸回归及其变形的计算框架

    本文针对多元凸回归函数的非参数最小二乘估计器提出一种基于增广 Lagrange 方法的可扩展算法框架，并且给出了平滑凸的 LSE 拟合（分段仿射）的凸逼近方法及近似质量的形式保证，此外，提出了一种 Lipschitz 凸回归的正则化方案，并研究了所得 LSE 的收敛速度．数值研究表明了本文所提算法的可扩展性。

    Sep, 2015