黎曼扩散薛定谔桥
在本研究中,我们处理了模拟潜在困难条件下的扩散过程,并构建了一种在子黎曼流形上进行桥梁模拟的方法,通过展示如何将机器学习的最新进展改进为在子黎曼流形上训练评分近似器。我们使用随机泰勒扩展将通常的去噪损失概念推广为与非完全陈闭性框架一起工作,并通过在海森伯格群上和使用适应坐标的一般方式演示了所得到的方案。我们进行了数值实验,演示了来自海森伯格群桥梁过程的样本以及对于短时间的该过程的集中度。
Apr, 2024
本文介绍了一种新的图像生成和似然估计方法 —— 扩展连续时间扩散模型到任意黎曼流形,提出了一种似然估计变分框架,并在黎曼流形上证明其等价性,证明了这种新方法在各个评测标准上得到了新的最先进的表现。
Aug, 2022
通过将高斯噪声逐渐应用于复杂的数据分布,构建了一个确定性的生成模型,对应于具有时间不均匀漂移的倒退随机微分方程,用基于分数匹配的方法估计漂移。本文提出了 Diffusion SB 方法来处理 Schrödinger Bridge 问题,近似了迭代比例拟合过程,DSB 具有广泛的适用性,是流形上 Sinkhorn 算法的连续状态空间概率化推广。
Jun, 2021
通过信息熵插值和薛定谔桥生成学习模型,该方法将评价量(Kullback-Leibler 散度)定义为参考分布与目标分布之间插值的过程,采用深度评分估计器和深度密度比估计器的演算法得到漂移项,该方案具有一定的可靠性和优越性,可用于生成学习领域。
Jun, 2021
通过在潜空间中利用 Schr {"o} dinger bridge 扩散模型构建新的生成学习方法,本文对当前扩散模型进行了全面的理论分析,包括利用预训练的编码器 - 解码器架构和 Schr {"o} dinger bridge 框架开发了潜空间中的扩散模型,通过控制生成分布和目标分布之间的二阶 Wasserstein 距离,获得了收敛速率,从而为现有的扩散模型提供了稳健的理论支持。
Apr, 2024
引入反射谢尔宾格算法:一种在多样有界域中生成数据的熵正则化的最优传递方法,通过反演的前后向随机微分方程与诺依曼和罗宾边界条件相结合,扩展基于散度的封闭域似然训练,并探索与熵正则化最优传送的自然联系,用于近似线性收敛的研究 —— 这对实际训练是非常有价值的见解。该算法在多样有界域中产生强大的生成模型,并通过标准图像基准测试展示其可扩展性。
Jan, 2024
本文介绍了基于去噪扩散模型的生成模型,提出了基于 Schrödinger bridge 的生成建模方法来缩短生成时间,并将其扩展到条件模拟中,用于各种应用,包括图像超分辨率、状态空间模型的最优滤波和预训练网络的优化。
Feb, 2022
提出了变分薛定谔扩散模型 (VSDM),利用变分推理线性化薛定谔桥前向评分函数,实现了无需模拟的训练过程,可用于优化传输计划中的扩散模型。VSDM 在模拟实验中表现出对非各向异性形状的高效生成能力,并产生了相较于单变量扩散更直线的样本轨迹。在真实数据中,验证了算法的可伸缩性,并在 CIFAR10 的无条件生成和时间序列建模的条件生成中达到了竞争性表现。值得注意的是,VSDM 不再依赖热启动初始化,而且在训练大规模实验中更易调参。
May, 2024
通过扩展扩散模型,使用扩散桥模型作为一种自然替代方法,该模型通过从数据中学习扩散桥分数并解决基于这些分数的(随机)微分方程,将一种分布映射到另一种分布,从而实现图像编辑等应用中纳入非随机噪声信息的目标。
Sep, 2023