稀疏支持向量无限推动
本文介绍从一般的角度分析在使用稀疏估计方法中相关的优化工具和技术,包括近端方法、块坐标下降、加权 L2 正则技术、工作集和家族方法以及非凸形式和扩展。同时,我们提供了一组广泛的实验来比较各种算法在计算方面的差异。
Aug, 2011
本文提出了一种利用不确定核的支持向量机分类方法,该算法可以同时计算支持向量和代理核矩阵,保持问题凸性并可以使用梯度投影或解析中心切割平面方法有效地求解较大的问题,在经典数据集上与其他方法的性能比较表明本技术的性能优于其他方法。
Apr, 2008
该研究考虑线性反问题,其中解被假定在任意预先分配的正交基上具有稀疏展开,利用加权 l^p 准则对系数进行正则化,提出了一种迭代算法计算对应的正则化解,并证明了算法的收敛性以及该方法的一些潜在应用。
Jul, 2003
研究非线性模型下的监督学习与变量选择问题,提出一种基于偏导数的非参数稀疏模型,利用再生核希尔伯特空间的概念和近端方法得出最小化问题及迭代求解算法,并通过理论和实验分析表明其具有优秀的性能表现。
Aug, 2012
本文介绍了一种新的损失函数,名为混合常规 - 威尔士(HOW),以及与 HOW 相关的一种新的稀疏诱导正则化项。我们从理论上证明了该正则化项是准凸的,其对应的 Moreau 包络是凸的。此外,我们推导出该 Moreau 包络(即接近算子)的闭式解。与需要通过迭代来寻找相应接近算子的 0<p<1 的 lp - 范数之类的非凸正则化项相比,我们开发的正则化项具有闭式接近算子。我们将该正则化项应用于鲁棒矩阵完成问题,并基于交替方向乘法算法开发了一种高效算法。对所提出方法的收敛性进行了分析,并证明了任何生成的累积点都是一个驻点。最后,基于人工合成和真实数据集的实验结果表明,我们的算法在恢复性能方面优于现有方法。
Oct, 2023