Feb, 2017

广义匹配追踪和Frank-Wolfe的统一优化视角

TL;DR该论文研究了贪婪优化的两个基本原型:匹配追踪和Frank-Wolfe算法。根据这两种方法,本文首次明确了通用原子集合条件下匹配追踪方法的收敛速率。作者推导了这两种方法在一般平滑目标上的次线性($1/t$)收敛,以及在强凸目标上的线性收敛,并提出了一个算法变化的清晰对应关系。而且这些算法和收敛速率是仿射不变的,不需要任何互不相关或稀疏性假设。