Oct, 2016

正则化最优输运及 Rot Mover's 距离

HTML
PDF
TL;DR本文提出了一种针对离散最优输运问题的平滑凸正则化统一框架，并基于 Bregman 差异将正则化最优输运等效于矩阵相似问题，其中的算法包括基于 Sinkhorn-Knopp 以及 Dykstra 的交替投影算法，以及基于牛顿-拉夫逊法的扩展算法。此外，还将该框架应用到了机器学习和信息几何等领域，并通过实验进行了验证。
发现论文，激发创造
  • 平滑且稀疏最优输运

    本文探讨在最优输运问题的原始和对偶形式中引入强凸项的正则化方法，以产生稀疏和群稀疏输送计划，并在颜色转移任务上展示了该框架的应用。

    Oct, 2017

  • 熵正则化最优输运问题的贪婪随机算法

    本论文研究基于熵罚函数的最优传输问题的随机算法，这些算法速度较快、实用，并且在数值实验中验证了它们相对于最优传输方法的优势。

    Mar, 2018

  • 基于因子耦合的统计最优输运

    本文章提出了一种新的方法来估计高维中两个概率分布之间的Wasserstein距离和最优传输方案，该方法可以在各种任务中获得显著的改进，包括单细胞RNA测序数据的领域适应性。该方法基于低运输秩的耦合，解决了数据驱动最优传输中的维数灾难，并得到了理论分析的支持。

    Jun, 2018

  • 正则性作为正则化：Brenier式平滑和强凸势能在最优输运中的应用

    本研究借鉴正则化理论，提出算法，利用二阶Wasserstein距离和Lipschitz性质，通过解决优化问题来得到光滑的Brenier凸函数，实现了快速而准确的图像传输。

    May, 2019

  • 一种直接的 $ ilde{O}(1/ε)$ 迭代并行算法，用于最优输运

    本文介绍一种基于原始对偶外推方法的平行一阶算法，通过计算最优传输（包括基于Wasserstein距离的计算）来解决机器学习和统计学中常见的问题，具有较强的实际应用价值，并实验验证了优异的性能。

    Jun, 2019

  • 基于放松约束的最优输运筛选Sinkhorn算法

    本研究提出了一种新颖的策略以有效地近似两个离散度量之间的 Sinkhorn 距离。通过直接将可忽略的双重解的组件设置为该值，我们建议通过筛选这些组件来进入 Sinkhorn 问题。这基于 Sinkhorn 分歧问题的新增双重的新公式和该问题的 KKT 最优性条件，其可从该问题中识别可筛选的双重组件，从而确保了可证明的近似。在包括规则化最优输送的复杂任务中，我们展示了 Screenkhorn 的效率，例如维数约简和领域适应。

    Jun, 2019

  • 正则化最优输运的理论是基于地面成本对抗的

    本研究提出了一个新的正则化解释角度，即将正则化视为一种鲁棒性机制，展示了任何凸正则化的OT都可以被解释为接受对手--地面成本的方式。这同时可以在地面空间上提供鲁棒的不相似性度量方法，并提出了相应的算法和实验性说明了这种方法的优越性。

    Feb, 2020

  • 稀疏约束的最优输运

    本文提出了一种新的最优输运问题方法，具有明确的基数约束，既能保证传送方案的稀疏性，又能够限制匹配的最大数量，使其在稀疏专家混合等应用中能够更好地解决计算性能问题。

    Sep, 2022

  • 自适应正则化的最优输运

    优化输运的原始表述引入了严格凸项以减少数值复杂度和增加输运计划的密度。然而，许多公式在输运计划上施加了全局约束，例如依赖于熵正则化。我们引入自适应正则化优化输运（OTARI），它对每个点的质量流入和/或流出施加约束，从而减少了质量均衡问题。我们展示了该方法在领域适应中的益处。

    Oct, 2023

  • 一种用于约束优化传输问题的Sinkhorn类型算法

    本文研究了满足等式和不等式约束条件下的熵正则化的最优输运问题，并提出了一种基于Sinkhorn算法的对应解法。通过理论保证，我们首先得出在解决问题时通过熵正则化所带来的近似误差随着参数增加而指数级减小。此外，通过描述具有李雅普诺夫函数的优化过程，我们证明了Sinkhorn算法在对偶空间中具有亚线性一阶收敛速度。为了在弱熵正则化下实现快速、高阶收敛，我们通过动态正则化调度和二阶加速技术来改进Sinkhorn算法。总体而言，本文将熵最优输运的最近理论和数值进展与约束情况相结合，使从业者能够在复杂场景中得到近似的输运计划。

    Mar, 2024