Apr, 2014

原子范数正则化的前向 - 后向贪心算法

PDF
TL;DR本文提出了一种优化算法 CoGEnT，用于信号处理中基于原子范数的重构问题，可以产生具有简洁原子表示的解决方案。该算法结合了基于条件梯度方法的贪婪选择方案和利用目标的二次性质来减小基大小的后向（或截断）步骤，可通过对一系列信号处理应用程序的大量数值实验来验证。
signal processingconvex regularizationoptimization algorithmatomic normscogent
发现论文，激发创造
  • 线性反问题的凸几何

    本文提出一个通用框架将简单性概念转化为凸惩罚函数，基于原子范数构建凸优化解，进而实现在限制线性信息下恢复简单模型。

    Dec, 2010

  • 基于谱间隙的确定性张量补全

    本文介绍了两种基于 Poisson loss 和 atomic norm minimization 的张量补全方法，提出了更紧密的界限，描绘了其对目标张量秩的关系，并探讨了最大准范数、岭惩罚和 Poisson 损失减小算法的实用性。

    Jun, 2023

  • ATOMO: 原子稀疏化通信高效学习

    本文提出了一种通用框架 ATOMO，用于进行原子稀疏化，控制梯度更新的传输，加快分布式训练，该方法包括元素分解、奇异值分解和傅里叶分解等，通过稀疏化神经网络梯度的奇异值分解可以显著提升分布式训练速度。

    Jun, 2018

  • 基于张量的多能量计算机断层扫描成像的核范数正则化表达

    本文提出一种基于张量的迭代算法，针对能量选择性计算机断层成像（CT）问题，通过设计张量核范数约束器来重建每个能量的 X 射线衰减分布，能够有效应对低能图像噪声的影响。

    Jul, 2013

  • 关于基数约束下一般凸平滑函数的前向 - 后向贪心算法

    本文研究使用前向 - 后向贪婪算法解决带有一般凸平滑函数的稀疏特征选择问题，通过分析两种前向 - 后向贪心算法的理论性质，通过使用基于梯度信息的特征选择策略，成功提高了特征选择算法 FoBa-obj 的效率，并应用于传感器选择问题以完成人体室内活动识别任务。

    Dec, 2013

  • 基于双图和加权核范数正则化的人体运动检测

    本文提出了一个基于加权核范数正则化和时空图拉普拉斯算子的双重图正则化移动对象检测模型，在实际的人体运动数据集上进行了数值实验，证明了该方法在分离运动物体和背景方面的有效性和稳健性，并展示了在机器人应用中的巨大潜力。

    Apr, 2023

  • 通过核范数最小化进行张量完成

    本文探讨了在张量补全中使用矩阵补全技术的不足之处，并证明了直接最小化张量核范数的凸优化方法对于提高样本需求是有益的。我们通过开发一系列代数和概率技术来建立结果，例如张量核范数的次微分的表征以及张量鞅的浓度不等式，这可能对其他张量相关问题具有独立的兴趣和有用性。

    May, 2014

  • 底秩张量恢复的一阶方法的效率研究：严格互补条件下的张量核范数

    使用凸松弛方法，基于张量核范数引入的球形约束最小化来恢复低秩张量，引入张量核范数球的适当严格互补条件下获得重要结果，包括线性收敛速度、低秩解的近似线性运行时间，在非平滑目标函数中类似结果可用于 extragradient 方法，并扩展了先前仅适用于三阶张量的许多基本结果。

    Aug, 2023

  • 用于核范数正则化的高效实用随机次梯度下降

    本研究提出了一种基于亚梯度方法和快速增量 SVD 更新的矩阵优化模型，通过使用高效的并行线性代数操作，执行廉价迭代，保持低秩因子分解迭代，因此在矩阵完成设置中生成预测时非常有效。

    Jun, 2012

  • 稀疏条件高斯图模型的大规模优化算法

    本文提出了一种基于牛顿法的优化程序，通过迭代两个子问题来实现高效计算，使用块协调下降来限制内存使用并实现快速收敛，解决了大规模问题下的内存限制和精度问题。

    Sep, 2015