半松弛最优传输问题的块坐标Frank-Wolfe算法及收敛性分析
在本篇论文中,我们考虑了在强凸集上进行的优化的特殊情况。我们证明,与一般情况的收敛速度为1/t相比,vanila FW方法以1/t²的速度收敛。我们还展示了如何通过在这些集合上进行线性优化来推导FW方法的多个快速收敛结果。
Jun, 2014
本文研究了Frank-Wolfe算法,提出了几个变体并分别给出了全局线性收敛性证明,证明了不同算法的收敛速度取决于几何量与条件数的乘积,这些算法在机器学习,子模优化等领域取得了实际应用。
Nov, 2015
本研究借鉴正则化理论,提出算法,利用二阶Wasserstein距离和Lipschitz性质,通过解决优化问题来得到光滑的Brenier凸函数,实现了快速而准确的图像传输。
May, 2019
我们提出了一种新的算法APDAMD来解决原子最优输运问题,并证明了算法的复杂度界限与加速变种的Sinkhorn算法和Greenkhorn算法,在实践中均具有较高的效率。
Jun, 2019
本文研究了神经网络在最优传输问题中的应用。通过使用输入凸性神经网络来构建连续测量的对,该对的基本真实的最优传输映射可以通过分析获得。然后使用这些基准测量来评估现有的最优传输求解器,研究发现现有的最优传输求解器精度存在局限性,提高最优传输的准确性不一定能带来更好的效果。
Jun, 2021
提出了Semi-Relaxed Sinkhorn算法用于求解半松弛最优输运问题,并对算法的收敛性进行了全面分析,得到了功能价值差、边际约束差和OT距离等多个指标的收敛上限,是该领域内的首个理论收敛分析。
May, 2022
本文研究了两个非平衡度量之间的部分最优输运(Partial Optimal Transport,POT)问题及其在颜色转移或领域适应等各种人工智能任务中的应用。我们首先通过理论和实验证明了现有的Sinkhorn算法在POT问题上的不可行性,进而提出了一种新的POT算法来解决这一问题,并且提供了几种近似POT问题的一阶方法,其中包括了近似解在ε范围内的Adaptive Primal-Dual Accelerated Gradient Descent(APDAGD)算法以及具有最佳计算复杂度的Dual Extrapolation算法。同时,我们还展示了POT相比标准OT的灵活性以及我们算法在两个非平衡边缘分布的实际应用中的实用性。
Dec, 2023
本文研究了满足等式和不等式约束条件下的熵正则化的最优输运问题,并提出了一种基于Sinkhorn算法的对应解法。通过理论保证,我们首先得出在解决问题时通过熵正则化所带来的近似误差随着参数增加而指数级减小。此外,通过描述具有李雅普诺夫函数的优化过程,我们证明了Sinkhorn算法在对偶空间中具有亚线性一阶收敛速度。为了在弱熵正则化下实现快速、高阶收敛,我们通过动态正则化调度和二阶加速技术来改进Sinkhorn算法。总体而言,本文将熵最优输运的最近理论和数值进展与约束情况相结合,使从业者能够在复杂场景中得到近似的输运计划。
Mar, 2024