May, 2016

大规模最优输运的随机优化

PDF
TL;DR提出一种新的随机优化算法来应对机器学习中遇到的大规模问题，该方法利用任意分布的样本来避免将密度值离散化，并提供了可证明收敛的方法，输出正确的距离。
发现论文，激发创造
  • 熵正则化最优输运问题的贪婪随机算法

    本论文研究基于熵罚函数的最优传输问题的随机算法，这些算法速度较快、实用，并且在数值实验中验证了它们相对于最优传输方法的优势。

    Mar, 2018

  • 大规模最优输运和映射估计

    本文提出了一个新颖的两步方法来解决基本问题，即从一个分布学习到另一个分布的最优映射，首先我们学习一个最优传输（OT）方案，其次我们估计 Monge 映射作为一个深度神经网络，演示了我们的建议方法在域适应和生成建模方面的应用。

    Nov, 2017

  • 在大规模最优输运问题上的可扩展和高效计算

    提出了一种名为 SPOT（Scalable Push-forward of Optimal Transport）的基于隐式生成学习的方法来解决 “最优传输”（Optimal Transport，OT）中的可扩展性问题，该方法通过引入参考分布而近似最优传输计划，并将其转化为极小极大问题。实验结果表明 SPOT 系统具有可靠性和较好的收敛性，并允许从最优传输计划中高效采样，从而有利于领域适应等下游应用。

    May, 2019

  • 计算最优输运

    本短篇论文着重回顾了优化输运相关理论（Optimal transport theory）及其在数据科学中的应用，重点在于阐述其针对分类、回归、密度拟合等机器学习等领域的优势，介绍了它的数值方法，并介绍了一些学术性质。

    Mar, 2018

  • 双限制最优输运用于高级聚类和分类

    本文主要介绍了最优传输（OT）的基本概念及其在机器学习中的应用，提出了双重边界最优传输（DB-OT）方法，用于解决实际情况下涉及未确定目标的问题，并应用于聚类和长尾分类任务中，实验证明该方法在测试阶段具有良好的性能。

    Jan, 2024

  • 非平衡最优输运半对偶形式生成建模

    本文提出基于 Unbalanced Optimal Transport (UOT) 的半对偶形式构建的新型生成模型，相比于基于 OT 的方法在处理噪点，稳定性和训练收敛速度等方面表现更优。通过实验验证了该模型的性质，并研究了 UOT 之间分布差异的理论上界。实验结果显示，该模型在 CIFAR-10 和 CelebA-HQ-256 数据集上的 FID 分别为 2.97 和 5.80，优于现有基于 OT 的生成模型。

    May, 2023

  • 高斯平滑最优输运：度量结构与统计效率

    通过引入高斯平滑的方法，本文提出了一种新颖的高斯平滑最优输运（Gaussian-smoothed OT）框架，以在保持 1-Wasserstein 度量结构的同时消除了实证逼近的维数诅咒，并在实证研究中证实了其可行性和优越性，为信息科学领域中的最优输运理论和应用提供了新思路。

    Jan, 2020

  • 通过加速梯度下降实现高效最优传输算法

    本研究提出了一种基于 Nesterov 的平滑技术的新算法，通过近似 Log-Sum-Exp 函数来平滑 Kantorovich 势的非平滑 c-transform，并将此平滑后的 Kantorovich 泛函应用于快速的 FISTA 算法以提高计算效率和精确度。实验结果表明，该方法相较于 Sinkhorn 算法在相同参数下具有更快的收敛速度和更高的准确性。

    Apr, 2021

  • 使用 Sinkhorn 散度学习生成模型

    本文介绍了一种使用最优输送损失的可行计算方法，通过熵平滑和自动微分来减少计算负担、提高稳定性和平滑性，获得鲁棒和可微分的最优输送损失的逼近，从而训练大规模生成模型并补充标准深度网络生成模型的计算机架构。

    Jun, 2017

  • 离散概率逆最优输运

    本文通过熵正则化的 Optimal transport（OT）工具，对 Inverse Optimal Transport（IOT）进行正式化和系统分析，包括代价等价成本的流形特性、模型先验的影响以及基于模拟的结果验证等方面。

    Dec, 2021