sparse optimization | BriefGPT

关键词sparse optimization

搜索结果 - 11

使用 IHT 学习稀疏神经网络
本文旨在通过提供收敛所需的全部条件的理论证明，研究在神经网络训练领域中，这种收敛的理论先决条件是否适用。然后，通过在单层神经网络上使用 IRIS 数据集进行实验验证这些条件。
PDF2 months ago
避免非凸正则化问题的严格鞍点
我们引入了 $l_p$ 正则化函数的严格鞍点性质，并提出了一种迭代重新加权的 $l_1$ 算法来解决 $l_p$ 正则化问题。该算法只能收敛到局部极小值点，严格鞍点性质在这些稀疏优化问题中是普遍的，这些分析以及提出的算法可以轻松扩展到一般的
PDF6 months ago
通过 L1-L2 优化实现结构化模型选择
该研究提出了一种学习方法，通过稀疏最小二乘拟合和非凸 l1-l2 稀疏优化解决器来鉴定结构动力系统，该方法基于科学工程中的自动模型选择应用，研究了少样本和噪声空时数据的识别问题。
PDFa year ago
ICML稳健稀疏优化的难度和算法
研究稀疏优化问题中的算法和局限性，探索稀疏线性回归和鲁棒线性回归问题，在此基础上展示了鲁棒回归问题的二准则、NP - 近似困难性，给出了一个使用近似最近邻数据结构的鲁棒回归算法，并且介绍了一个从鲁棒线性回归到稀疏线性回归的通用带宽率约化算法
PDF2 years ago
凸优化的水平集方法
本文介绍了一种交换目标函数和约束函数，通过解决参数级集问题，利用不精确的函数评估和可能不精确的导数信息的零点查找过程来有效解决原始问题。该方法适用于广泛的问题，包括低秩半定优化、稀疏优化和推断的广义线性模型。
PDF8 years ago
NIPS高维情况下的多步随机 ADMM：稀疏优化和嘈杂矩阵分解应用
本文介绍了一种基于 epoch-based 退火的高维优化算法 ADMM，其可以用于稀疏优化问题和矩阵分解问题，实验结果表明其在精度和时间复杂度方面均优于现有算法。
PDF10 years ago
具有全局复杂度分析的实用不精确近端拟牛顿方法
提出了一种稀疏优化的通用框架，使用了二阶信息和有限的 BFGS Hessian 逼近，通过坐标下降的方法解决问题，并对其全局收敛率进行了新颖的分析。
PDF11 years ago
凸优化的梯度方法：在较弱条件下获得更好的收敛速率
本文研究了梯度方法在凸优化中的收敛行为，证明了仅满足某些线段上的 Lipschitz 连续性和强凸性条件时，其复杂度可达到已知的最优值。同时，利用切线条件和投影的约束得到了更为松弛的条件，并应用于稀疏优化问题中构造更快的求解算法。
PDF11 years ago
高维随机优化与稀疏统计恢复：一种最优算法
研究了基于 Nesterov 的对偶平均算法的随机优化算法，在预期损失是强凸的且最优解是（近似）稀疏的问题上进行优化，证明了在局部 Lipschitz 损失下，在 T 轮迭代后，我们的解决方案的误差最多为 O（（slogp）/T），并确立了
PDF12 years ago
具有全局线性收敛算法的增广 L1 和核范数模型
在稀疏优化的范畴中，本文研究了在非可微目标函数上添加平滑函数的想法，特别是在 $||x||_1+1/(2\alpha)||x||_2^2$ 和 $||X||_*+1/(2\alpha)||X||_F^2$ 两种情况下，我们证明了它们可以高效
PDF12 years ago
加速线性化 Bregman 方法
本文提出并分析一种用于求解基础追踪和相关稀疏优化问题的加速线性化 Bregman 方法，该方法可显著缩短计算时间。
PDF13 years ago