- ICLR多标签分类中基于宏 $K$ 指标的一致算法
在多标签分类的人口效用框架下,我们考虑复杂性能度量的优化问题。我们主要关注一种指标,它线性可分解为对每个标签分别应用的二分类效用的总和,并对每个实例预测出恰好 k 个标签。这些 “宏 - at-$k$” 指标在具有长尾标签的极端分类问题中具 - 可微分的 Frank-Wolfe 优化层
该论文介绍了一种名为 Differentiable Frank-Wolfe Layer(DFWLayer)的可微分层,借助 Frank-Wolfe 方法解决了带约束优化问题,从而提供了处理大规模问题的高效方法。实验证明 DFWLayer 在 - 带有最佳效率和实用特性的约束优化方法
本文介绍了两种新的 Frank-Wolfe 算法变体,用于随机有限和最小化。这些方法在凸和非凸目标函数方面,都具有最佳的收敛保证。同时,本文提出的两种方法都不需要永久收集大批量数据和完整确定性梯度,可用于优化机器学习等领域中的结构约束问题。
- CVPR解决 MAP-MRF 问题的松弛问题:组合内向 Frank-Wolfe 方向
本研究旨在提高解决基于最大后验马尔可夫随机场的 LP 松弛的问题的效率,并提出了一种基于面内 Frank-Wolfe 方向的高效实现方法,实验结果表明,该方法是当前某些问题类的最先进 LP 解决器。
- Frank-Wolfe 算法的广义自共轭分析
该论文介绍了投影法优化的一些缺陷,提出了一种基于 Frank-Wolfe 方法的更好优化算法,支持大规模优化,并适用于非凸函数。
- ICMLFrank-Wolfe 算法的自共轭分析
通过理论建立不同变体的 Frank-Wolfe(FW)算法的自适应步长,对一些机器学习及物理学问题,能够得到无需映射和保留稀疏性的优化,且对于具有无限曲率的自共轭函数,也可以获得全局收敛速率为 O (1/k) 或线性收敛速率的新的 FW 方 - 更快的无投影在线学习
研究了在线学习问题中的限制,提出了基于 Follow-the-Perturbed-Leader 的投影法之外的高效项目方法,其保证了平滑成本函数和每个迭代中一个线性优化计算的一般在线凸优化中的 $T ^ {2/3}$ 后悔界。
- MM无强凸性情况下 Frank-Wolfe 算法在秩一矩阵恢复中的线性收敛
研究了低秩矩阵恢复问题的凸松弛问题,给出了使问题具有唯一秩为 1 的最优解的充分条件,并使用 Frank-Wolfe 方法和单个秩为 1 SVD 计算每个迭代来找到一个近似解。
- 一种样本随机 Frank-Wolfe 算法
本文提出了一种称为 1-SFW 的新的随机 Frank-Wolfe 算法,通过设计一种新颖的无偏动量估计器,实现了使用每次迭代的单个样品来优化,而无需仔细调整批量大小、步长、学习速率和其他复杂的超参数,并在随机凸优化、随机 DR 亚模拟最大 - Frank-Wolfe 方法自适应于误差界条件
本文表明,强凸集上使用 Frank-Wolfe 方法并加入步长搜索可以自适应地适用于问题的错误界限条件,从而获得更快的收敛速度。
- 基于块协调 Frank-Wolfe 算法的 MAP 推断
本文提出一种基于 Lagrangean 松弛及 Frank-Wolfe 方法的多平面块协调策略用于在结构化能量最小化问题中求解最大后验概率(MAP)推断,并在 Markov 随机场、多标签离散层析成像和图匹配问题中的实验表明了方法优越性。
- 凸凹博弈的更快率
研究使用无遗憾算法计算特定类别的凸 - 凹游戏的平衡,展示了特定游戏类别可实现 O (1/T^2) 的速率,同时展示了此类无遗憾技术在采用额外曲率假设的情况下甚至可以实现线性速率,文中讨论的无遗憾算法可实现的有效范围包括乐观预测算法、Fra - 一种带有 “面内” 方向的扩展 Frank-Wolfe 方法及其在低秩矩阵补全中的应用
本文基于低秩矩阵补全问题,提供了 Frank-Wolfe 方法的一种扩展,该方法旨在在可行区域的低维面上产生近最优解。我们采用一种新方法,在每次迭代中生成 “面内” 方向,并通过在面内和 “定常” Frank-Wolfe 步骤之间选择的新选 - Frank-Wolfe 方法在强凸集合上的更快收敛速率
在本篇论文中,我们考虑了在强凸集上进行的优化的特殊情况。我们证明,与一般情况的收敛速度为 1/t 相比,vanila FW 方法以 1/t² 的速度收敛。我们还展示了如何通过在这些集合上进行线性优化来推导 FW 方法的多个快速收敛结果。
- MM一种新的 Frank-Wolfe 算法。分析及其在大规模 SVM 训练的应用
本研究提出并分析了一种基于新的 away steps 方法的 Frank-Wolfe 方法变种,重点研究了在 Simplex 上的一般凸优化问题。 研究表明,该方法与传统的 away steps 可以达到相同的收敛速率和迭代次数,实验结果显