Aug, 2023

计算不平衡分布之间的距离 —— 平距度量

PDF
TL;DR我们提供了一个在任意维度计算平坦度量的实现。平坦度量，也称为双有界利普希茨距离，将众所周知的 Wasserstein 距离 W1 推广到分布总质量不相等的情况。这对于不平衡的最优传输任务以及样本大小重要或不可归一化的数据分布的分析非常重要。该方法的核心是基于神经网络来确定一个实现两个给定度量之间距离的最优测试函数。我们特别关注实现了从独立训练的网络中计算出的成对距离的可比较性。我们通过多个实验以及使用模拟数据来测试输出的质量。
flat metricdual bounded lipschitz distancewasserstein distanceunbalanced optimal transport tasksneural network
发现论文，激发创造
  • Wasserstein 距离下的 Minimax 分布估计

    论文提供了关于在 Wasserstein 损失下仅使用样本空间的测度性质和概率分布的弱矩假设，对于概率分布的估计的统计极小值率上下界的研究。

    Feb, 2018

  • 不平衡 Gromov Wasserstein 距离：锥形式和松弛

    提出了两种不平衡的 Gromov-Wasserstein 公式：一种是基于松弛质量守恒约束的正定差异，另一种是基于锥形提升的等距测距，它们都允许比较拥有正定度量的任意正度量的测度空间 (isometries)。

    Sep, 2020

  • 使用 Wasserstein Loss 进行学习

    本文提出了一个基于 Wasserstein 距离的多标签学习损失函数，基于概率度量体提供了一种自然的概念。该算法可以有效鼓励模型在输出空间中使用所选度量的平滑性，并用 Yahoo Flickr Creative Commons 数据集上的标签预测问题验证了性能。

    Jun, 2015

  • 近线性时间内逼近二次传输度量

    该研究提出了一种基于熵正则化、近似 Sinkhorn 缩放和高斯核矩阵低秩逼近的算法，用于计算两个点云或离散分布之间的二次输运度量（也称为 2-Wasserstein 距离或均方根距离），其复杂度为 O (n)。

    Oct, 2018

  • 软匹配距离：一种捕捉单神经元调谐的神经表示度量

    提出了一种基于 “软” 置换的度量方式，用于衡量具有不同大小的神经网络之间的距离，并避免了其他方式所遭受的违反直觉的结果，从而提供了对神经表示的补充几何洞见。

    Nov, 2023

  • 应用于对抗学习和域自适应的混合分布归一化 Wasserstein 距离

    本文研究通过引入归一化 Wasserstein 度量来解决不平衡混合比例问题，并将其应用于生成模型、域自适应和聚类等多个领域，表现出显著的性能提升。

    Feb, 2019

  • Wasserstein 距离下经验测度的尖锐渐近和有限样本收敛率

    本文研究 Wasserstein 距离的问题，得出了关于概率测度的收敛速度的渐近结果和有限样本结果。结果表明，随着样本量 $n$ 的增加，测度可以呈现出不同的收敛速度。

    Jul, 2017

  • 使用 Wasserstein 度量的数据集精馏

    利用 Wasserstein 距离进行数据集简化，通过嵌入合成数据到预训练分类模型的特征空间进行分布匹配，实现了数据集简化的新的最先进性能。

    Nov, 2023

  • 在 Wasserstein 距离中的最优实例私有密度估计

    使用 Wasserstein 距离对分布进行差分私密密度估计，并设计了可以适应简单实例的实例最优算法，对于特殊情况下的离散分布，结果还导致了 TV 距离下的实例最优私密学习。

    Jun, 2024

  • Wasserstein 距离的统计学特征

    本文介绍了 Wasserstein 距离作为概率分布度量的数学概念，以及其在统计学中的重要应用，包括了弱收敛、矩收敛、概率分布扰动等内容。

    Jun, 2018