熵正则化最优输运问题的贪婪随机算法
本文提出了一种针对离散最优输运问题的平滑凸正则化统一框架,并基于 Bregman 差异将正则化最优输运等效于矩阵相似问题,其中的算法包括基于 Sinkhorn-Knopp 以及 Dykstra 的交替投影算法,以及基于牛顿-拉夫逊法的扩展算法。此外,还将该框架应用到了机器学习和信息几何等领域,并通过实验进行了验证。
Oct, 2016
我们提出了一种新的算法APDAMD来解决原子最优输运问题,并证明了算法的复杂度界限与加速变种的Sinkhorn算法和Greenkhorn算法,在实践中均具有较高的效率。
Jun, 2019
本研究提出了一种新颖的策略以有效地近似两个离散度量之间的 Sinkhorn 距离。通过直接将可忽略的双重解的组件设置为该值,我们建议通过筛选这些组件来进入 Sinkhorn 问题。这基于 Sinkhorn 分歧问题的新增双重的新公式和该问题的 KKT 最优性条件,其可从该问题中识别可筛选的双重组件,从而确保了可证明的近似。在包括规则化最优输送的复杂任务中,我们展示了 Screenkhorn 的效率,例如维数约简和领域适应。
Jun, 2019
本文研究了多项式最优运输(MOT)距离的近似复杂性,提出了两个新的确定性算法:多重边缘Sinkhorn算法和加速多重边缘Sinkhorn算法。通过实验,证明了这两种算法在计算效率和准确性上的优越性。
Sep, 2019
本研究提出了一个新的正则化解释角度,即将正则化视为一种鲁棒性机制,展示了任何凸正则化的OT都可以被解释为接受对手--地面成本的方式。这同时可以在地面空间上提供鲁棒的不相似性度量方法,并提出了相应的算法和实验性说明了这种方法的优越性。
Feb, 2020
本文研究了两个非平衡度量之间的部分最优输运(Partial Optimal Transport,POT)问题及其在颜色转移或领域适应等各种人工智能任务中的应用。我们首先通过理论和实验证明了现有的Sinkhorn算法在POT问题上的不可行性,进而提出了一种新的POT算法来解决这一问题,并且提供了几种近似POT问题的一阶方法,其中包括了近似解在ε范围内的Adaptive Primal-Dual Accelerated Gradient Descent(APDAGD)算法以及具有最佳计算复杂度的Dual Extrapolation算法。同时,我们还展示了POT相比标准OT的灵活性以及我们算法在两个非平衡边缘分布的实际应用中的实用性。
Dec, 2023
本文研究了满足等式和不等式约束条件下的熵正则化的最优输运问题,并提出了一种基于Sinkhorn算法的对应解法。通过理论保证,我们首先得出在解决问题时通过熵正则化所带来的近似误差随着参数增加而指数级减小。此外,通过描述具有李雅普诺夫函数的优化过程,我们证明了Sinkhorn算法在对偶空间中具有亚线性一阶收敛速度。为了在弱熵正则化下实现快速、高阶收敛,我们通过动态正则化调度和二阶加速技术来改进Sinkhorn算法。总体而言,本文将熵最优输运的最近理论和数值进展与约束情况相结合,使从业者能够在复杂场景中得到近似的输运计划。
Mar, 2024
提出了一种名为ProgOT的新类EOT求解器,它能够估计计划和传输映射,通过使用时间离散化分割质量位移、从动态OT公式获得启示并利用适当安排的参数使用EOT来征服这些步骤,我们提供了实验证据表明,在计算大规模耦合时,ProgOT是快速且更可靠的替代标准求解器,甚至优于基于神经网络的方法,并且还证明了我们的方法在估计最优传输映射时具有统计一致性。
Jun, 2024