May, 2019

在大规模最优输运问题上的可扩展和高效计算

PDF
TL;DR提出了一种名为 SPOT（Scalable Push-forward of Optimal Transport）的基于隐式生成学习的方法来解决 “最优传输”（Optimal Transport，OT）中的可扩展性问题，该方法通过引入参考分布而近似最优传输计划，并将其转化为极小极大问题。实验结果表明 SPOT 系统具有可靠性和较好的收敛性，并允许从最优传输计划中高效采样，从而有利于领域适应等下游应用。
optimal transportmachine learninggenerative learningneural ordinary differential equationsdomain adaptation
发现论文，激发创造
  • 大规模最优输运的随机优化

    提出一种新的随机优化算法来应对机器学习中遇到的大规模问题，该方法利用任意分布的样本来避免将密度值离散化，并提供了可证明收敛的方法，输出正确的距离。

    May, 2016

  • SP$^2$OT：语义规范化的逐步偏差最优传输用于不平衡聚类

    我们提出了一个基于最优传输的伪标签学习框架来解决深度不平衡聚类问题，该框架通过逐步将样本转移到不平衡的聚类中生成高质量且注意不平衡性的伪标签。

    Apr, 2024

  • 机器学习中的最优传输近期进展

    本研究综述了 Optimal Transport 在机器学习中的应用，特别关注于监督、无监督、迁移和强化学习领域，并重点介绍了计算 Optimal Transport 的最新发展及其与机器学习实践的相互作用。

    Jun, 2023

  • 渐进式熵最优输运求解器

    提出了一种名为 ProgOT 的新类 EOT 求解器，它能够估计计划和传输映射，通过使用时间离散化分割质量位移、从动态 OT 公式获得启示并利用适当安排的参数使用 EOT 来征服这些步骤，我们提供了实验证据表明，在计算大规模耦合时，ProgOT 是快速且更可靠的替代标准求解器，甚至优于基于神经网络的方法，并且还证明了我们的方法在估计最优传输映射时具有统计一致性。

    Jun, 2024

  • 大规模最优输运和映射估计

    本文提出了一个新颖的两步方法来解决基本问题，即从一个分布学习到另一个分布的最优映射，首先我们学习一个最优传输（OT）方案，其次我们估计 Monge 映射作为一个深度神经网络，演示了我们的建议方法在域适应和生成建模方面的应用。

    Nov, 2017

  • 结构化最优输运

    本文提出一个非线性广义离散最优传输模型，可应用于领域自适应和自然语言处理中，同时探索其快速算法和相关属性。Illustrative experiments 展示了模型引导的结构耦合的好处。

    Dec, 2017

  • 结构稀疏最优传输的子模组框架

    探索在不平衡最优输运 (UOT) 设置中学习稀疏输运规划，提出基于最大均值差异 UOT 的稀疏约束优化问题，开发了高效的基于梯度的离散贪婪算法，并在多个应用中验证了该方法的有效性。

    Jun, 2024

  • 计算最优输运

    本短篇论文着重回顾了优化输运相关理论（Optimal transport theory）及其在数据科学中的应用，重点在于阐述其针对分类、回归、密度拟合等机器学习等领域的优势，介绍了它的数值方法，并介绍了一些学术性质。

    Mar, 2018

  • 生成熵神经最优传输在空间内和空间间的映射

    学习度量到度量映射是机器学习中的一项关键任务，而神经最优输运方法（Neural OT）结合了神经网络模型和最优输运理论，将最优输运作为归纳偏置，并通过实验表明其在单细胞生物学中具有实用性。

    Oct, 2023

  • 非平衡最优输运半对偶形式生成建模

    本文提出基于 Unbalanced Optimal Transport (UOT) 的半对偶形式构建的新型生成模型，相比于基于 OT 的方法在处理噪点，稳定性和训练收敛速度等方面表现更优。通过实验验证了该模型的性质，并研究了 UOT 之间分布差异的理论上界。实验结果显示，该模型在 CIFAR-10 和 CelebA-HQ-256 数据集上的 FID 分别为 2.97 和 5.80，优于现有基于 OT 的生成模型。

    May, 2023