无偏 Sinkhorn 重心
本研究提出通过解决 Sinkhorn 算法中的不动点方程从而得到熵正则化两个高斯测度之间的最优输运问题的闭合形式解,甚至适用于协方差矩阵退化的高斯分布,同时阐明了非平衡最优输运中的质量输运 / 破坏权衡,其最优输运方案为高斯分布。
Jun, 2020
本文研究了满足等式和不等式约束条件下的熵正则化的最优输运问题,并提出了一种基于 Sinkhorn 算法的对应解法。通过理论保证,我们首先得出在解决问题时通过熵正则化所带来的近似误差随着参数增加而指数级减小。此外,通过描述具有李雅普诺夫函数的优化过程,我们证明了 Sinkhorn 算法在对偶空间中具有亚线性一阶收敛速度。为了在弱熵正则化下实现快速、高阶收敛,我们通过动态正则化调度和二阶加速技术来改进 Sinkhorn 算法。总体而言,本文将熵最优输运的最近理论和数值进展与约束情况相结合,使从业者能够在复杂场景中得到近似的输运计划。
Mar, 2024
本文研究了具有内部和外部规则化强度的双重规则化 Wasserstein 质心的计算,提出了一种通过阻尼 Sinkhorn 迭代构建的算法,并且无论规则化参数的选择如何都可以保证收敛。使用近似蒙特卡洛抽样实现的我们算法的非精确变体,在自由支持 / 无网格设置下为离散点云之间的 Wasserstein 质心逼近提供了非渐近收敛保证。
Jul, 2023
本文介绍了一种使用最优输送损失的可行计算方法,通过熵平滑和自动微分来减少计算负担、提高稳定性和平滑性,获得鲁棒和可微分的最优输送损失的逼近,从而训练大规模生成模型并补充标准深度网络生成模型的计算机架构。
Jun, 2017
本文提出了一种基于标准 Sinkhorn 更新和紧缩函数的交替迭代算法,以实现不平衡输运的熵正则化,同时证明其在所有情况下的线性收敛性,并在此基础上定义了满足几何公理的伪距离,即不平衡 Sinkhorn 散度,为正测度全空间提供了一种支持不平衡输运的新方法。
Oct, 2019
通过引入高斯平滑的方法,本文提出了一种新颖的高斯平滑最优输运(Gaussian-smoothed OT)框架,以在保持 1-Wasserstein 度量结构的同时消除了实证逼近的维数诅咒,并在实证研究中证实了其可行性和优越性,为信息科学领域中的最优输运理论和应用提供了新思路。
Jan, 2020
使用最优传输距离(OT)和尤其是熵正则化 OT 距离作为机器学习和数据科学中的一种评估度量越来越普遍。本研究主要针对在线 Sinkhorn 算法进行改进和优化,提出了改进的收敛性分析和压缩技术结合的在线 Sinkhorn 算法,通过实证实验和理论证明验证了方法的有效性和性能。
Oct, 2023
本文提出两种算法来计算一组经验概率测度的 Wasserstein barycenters,其中包括使用 entropic 正则化来平滑 Wasserstein distance 的方法,并使用矩阵缩放算法计算其梯度,这些算法可用于可视化大量图像并解决约束聚类问题。
Oct, 2013
本文提供了计算复杂度分析 Sinkhorn 算法,用于解决两个若干可能具有不同质量组分的测量之间的熵正则化不平衡最优运输问题,其复杂度为近线性时间,该算法与最优运输问题的复杂度相比要更优。
Feb, 2020
本文提出了一种新的重要性稀疏化方法,称为 Spar-Sink,用于高效地近似熵正则化的最优输运和不平衡最优输运解决方案。实验证明,Spar-Sink 在估计误差和速度方面优于主流竞争对手,并可以有效地估计和可视化心脏周期。
Jun, 2023