Jun, 2020

利用 Sinkhorn 散度实现更快的 Wasserstein 距离估计

PDF
TL;DR本研究提出使用 Sinkhorn 散度来估计平方 Wasserstein 距离，其允许更高的正则化水平，从而导致改进的计算复杂度界限和实际的强加速。
wasserstein distanceprobability distributionsentropic regularizationsinkhorn divergencesample complexity
发现论文，激发创造
  • 使用 Wasserstein 距离的 Sinkhorn 逼近的微分特性

    应用最优输运及熵正则化计算 Wasserstein 距离中的 Sinkhorn 近似算法的梯度，可以提高学习和优化问题的效率，同时通过高阶平滑性，也可以提供统计保证。

    May, 2018

  • 非平衡最优输运的 Sinkhorn 散度

    本文提出了一种基于标准 Sinkhorn 更新和紧缩函数的交替迭代算法，以实现不平衡输运的熵正则化，同时证明其在所有情况下的线性收敛性，并在此基础上定义了满足几何公理的伪距离，即不平衡 Sinkhorn 散度，为正测度全空间提供了一种支持不平衡输运的新方法。

    Oct, 2019

  • 基于 Nystrom 方法的高度可扩展 Sinkhorn 距离

    本文介绍了一种新的计算 Sinkhorn 距离的方法，该方法结合了 Nyström 方法和 Sinkhorn Scaling，具有显著的计算效率，适用于海量数据。

    Dec, 2018

  • 高斯平滑切片概率散度

    通过研究 Gaussian smoothed sliced Wasserstein distance 及其广义版本的理论性质，探讨了其在采样复杂度和连续性方面的特点，并在隐私保护领域适应的背景下进行了实证研究。

    Apr, 2024

  • 使用 Sinkhorn 散度学习生成模型

    本文介绍了一种使用最优输送损失的可行计算方法，通过熵平滑和自动微分来减少计算负担、提高稳定性和平滑性，获得鲁棒和可微分的最优输送损失的逼近，从而训练大规模生成模型并补充标准深度网络生成模型的计算机架构。

    Jun, 2017

  • 在 Wasserstein 距离中的最优实例私有密度估计

    使用 Wasserstein 距离对分布进行差分私密密度估计，并设计了可以适应简单实例的实例最优算法，对于特殊情况下的离散分布，结果还导致了 TV 距离下的实例最优私密学习。

    Jun, 2024

  • 尖峰运输模型中的 Wasserstein 距离估计

    本文提出了一种新的统计模型 —— 尖峰运输模型，该模型规范化了两个概率分布仅在低维子空间上不同的假设。我们研究了在这个模型下 Wasserstein 距离的最小二乘率，并表明这种低维结构可以避免维度灾难。通过最小二乘分析，我们得出了一个下界，表明在缺少这样的结构的情况下，插值估计量在高维度中几乎是最优的。我们还提供了统计和计算难度之间的差距的证据，并猜测任何计算上有效的估计量注定受到维数灾难的影响。

    Sep, 2019

  • 近线性时间内逼近二次传输度量

    该研究提出了一种基于熵正则化、近似 Sinkhorn 缩放和高斯核矩阵低秩逼近的算法，用于计算两个点云或离散分布之间的二次输运度量（也称为 2-Wasserstein 距离或均方根距离），其复杂度为 O (n)。

    Oct, 2018

  • 使用正特征的线性时间 Sinkhorn 散度

    本文提出使用低秩近似的 ground costs 方法来提高 Sinkhorn divergences 计算效率，并将该方法应用于训练 OT-GAN 模型。

    Jun, 2020

  • 无偏 Sinkhorn 重心

    本文研究优化输运中的熵正则化对 Wasserstein 度量和重心的影响，提出了一种去偏差的 Wasserstein 重心方法，能够在保持快速的 Sinkhorn 迭代的同时避免了熵平滑。理论上证明了单峰高斯函数的熵输运重心是高斯函数，并量化了其方差偏差。同时通过实验验证了该方法的优越性。

    Jun, 2020