使用 Frank-Wolfe 算法实现自由支持的 Sinkhorn 重心
本文提出并证明了 Sinkhorn Descent 方法,该方法基于无约束函数优化的思路,用于求解概率分布的重心,计算复杂度线性与维度有关,并成功求解了 100 维度的问题。
Jul, 2020
本研究提出使用 Sinkhorn 散度来估计平方 Wasserstein 距离,其允许更高的正则化水平,从而导致改进的计算复杂度界限和实际的强加速。
Jun, 2020
机器学习中的熵正则最优传输问题可以通过 Sinkhorn 算法进行求解,而该研究介绍了 Sinkhorn 算法的连续时间模拟以及其在噪声和偏差容忍性方面的改进,同时与机器学习和数学领域中其他动态方法提供了统一的视角。
Nov, 2023
本文通过随机算法来计算具有 Wasserstein 距离下的一组概率分布的重心,该方法不同于以往的方法,可以适用于连续输入分布,并允许在每个迭代中调整重心的支持,该算法能够恢复出一个锐利的输出,其支持集合包含在真实重心的支持集合内,并能在一些例子中恢复出比以前更有意义的重心。该方法具有广泛的适用性,可扩展到生成给定分布的超级样本和恢复蓝噪声近似等应用。
Feb, 2018
本文研究了具有内部和外部规则化强度的双重规则化 Wasserstein 质心的计算,提出了一种通过阻尼 Sinkhorn 迭代构建的算法,并且无论规则化参数的选择如何都可以保证收敛。使用近似蒙特卡洛抽样实现的我们算法的非精确变体,在自由支持 / 无网格设置下为离散点云之间的 Wasserstein 质心逼近提供了非渐近收敛保证。
Jul, 2023
本文提出了一种基于标准 Sinkhorn 更新和紧缩函数的交替迭代算法,以实现不平衡输运的熵正则化,同时证明其在所有情况下的线性收敛性,并在此基础上定义了满足几何公理的伪距离,即不平衡 Sinkhorn 散度,为正测度全空间提供了一种支持不平衡输运的新方法。
Oct, 2019
通过将 Kullback-Leibler divergence 应用于 mirror map 和目标函数中,我们发现 Sinkhorn 算法是增量 / 随机镜像下降的一种特例。该发现使我们能够提出一种新方法,扩展了 Sinkhorn 算法超出两个约束。
Sep, 2019
本文介绍了一种新的计算 Sinkhorn 距离的方法,该方法结合了 Nyström 方法和 Sinkhorn Scaling,具有显著的计算效率,适用于海量数据。
Dec, 2018
本文研究优化输运中的熵正则化对 Wasserstein 度量和重心的影响,提出了一种去偏差的 Wasserstein 重心方法,能够在保持快速的 Sinkhorn 迭代的同时避免了熵平滑。理论上证明了单峰高斯函数的熵输运重心是高斯函数,并量化了其方差偏差。同时通过实验验证了该方法的优越性。
Jun, 2020
通过引入早停止和牛顿类型子程序,Sinkhorn-Newton-Sparse(SNS)算法提供了超指数收敛,并且在实际情况下收敛速度比 Sinkhorn 算法快几个数量级,包括离散密度的经验分布之间的最优输运和计算 Wasserstein W1,W2 距离。
Jan, 2024