Nov, 2023

线性控制神经 ODE 中将正规化流视为最优传输映射的近似

PDF
TL;DR通过深度神经网络构建概率测度之间的可逆传输映射，本文考虑了恢复绝对连续测度之间 $W_2$- 最优传输映射作为线性控制神经 ODE 流的问题，并提出了一种基于离散最优耦合的离散控制问题，以近似求解最优传输映射。最后，通过 Pontryagin 最大值原理，提出了一种迭代数值方法用于实际计算近似最优传输映射的算法。
normalizing flowsinvertible transport maps$w_2$-optimal transport maplinear-control neural odeoptimal control problem
发现论文，激发创造
  • OT-Flow: 基于最优输运的快速准确连续正则化流

    提出了一种基于最优传输理论和神经常微分方程的连续归一化流方法，具有高维密度估计和生成建模的能力，在五种任务中与现有技术相比表现出色，且训练时间为现有技术的 8 倍。

    May, 2020

  • 流形上的神经常微分方程

    本研究探讨如何使用向量场在光滑流形上进行参数化，以及如何进行梯度学习来实现基于神经 ODE 的流规范化方法。

    Jun, 2020

  • 黎曼连续归一化流

    本文提出 Riemannian 连续正规化流模型，通过设置连续性流作为常微分方程的解来定义流，其可以对光滑流形上的灵活概率测度进行有效参数化，在合成和现实数据方面与标准流或先前介绍的预测流相比可以显著提高表现。

    Jun, 2020

  • Rectified Flow：一种保持边际的最优传输方法

    研究了一种基于流的方法来解决优化运输问题，该方法可通过神经普通可微方程迭代地减少运输成本，同时自动维护边际约束，相对于已有的方法，该方法针对特定运输成本函数且内部减少可行耦合来减少运输成本，是一种单目标变体。

    Sep, 2022

  • Q - 归一化流和极小密度比估计

    本文提出了一种新的流模型 Q-malizing flow，它是由神经 ODE 模型构建的，能够从 P 分布可达到任意 Q 分布，主要应用在密度比估计和高维数据相互信息估计中。

    May, 2023

  • 双正则流：灵活的贝叶斯高斯过程 ODE 学习

    高斯过程在连续动力系统的向量场建模中已被广泛使用，本研究将归一化流引入常微分方程向量场，提高了贝叶斯高斯过程常微分方程的准确性和不确定性估计能力。

    Sep, 2023

  • 使用随机插值构建归一化流

    本文提出一种基于连续时间正规化流的生成模型，该流的速度场由时间依赖密度的概率流推断而来，可用于样本生成和密度估计，并可最小化插值密度的路径长度来建立最优传输映射。该方法通过对基于随机微分方程的方法的简化，使生成的流可以以低成本超越传统方法，并可在图像生成等任务上达到较理想的性能。

    Sep, 2022

  • 基于最优传输的条件采样生成流

    提出了一种非参数生成模型，通过使用三角形状的传输映射来描述目标分布的条件分布，解决了基于参数的偏差和梯度优化器学习这些转换的可靠性问题。

    Jul, 2023

  • TO-FLOW：具有时间优化的连续归一化流和移动速度伴随的高效算法

    该研究提出了一种使用坐标下降和进化时间优化相结合的方法对神经常微分方程进行训练，以加速训练速度和提高稳定性，并在基准模型的基础上展示了更好的性能。

    Mar, 2022

  • 正规流：当前方法的介绍与评述

    本文综述了 Normalizing Flows 在分布学习中的构建和使用，旨在提供模型的背景和解释，回顾现有的最新文献，并确定未来可行的有前途的方向和未解决的问题。

    Aug, 2019