AdjointDEIS: 扩散模型的高效梯度
使用概率扩散模型自适应定制的新方法 AdjointDPM，采用伴随灵敏度方法通过解决带有增广 ODE 的概率流 ODE 来进行梯度反向传播，从而实现对模型参数和生成内容的梯度控制，进而在可视效果转换、特定类型风格化和安全审计等任务上展示了 AdjointDPM 的有效性。
Jul, 2023
本文提出一种利用伴随灵敏度方法计算随机微分方程梯度的方法，结合高阶适应性求解器，实现快速、内存高效的梯度计算。并将该方法应用于基于神经网络的随机动力学拟合中，表现出竞争性的性能。
Jan, 2020
本文介绍了利用可逆且代数上可逆的 Heun 方法以及优化的布朗运动采样技术，加速求解反向 SDE 以训练神经 SDE 模型，并提出了用于 GAN 的训练技巧，实验表明我们的算法在速度和预测效果上超过了现有技术。
May, 2021
利用基于评分的生成扩散模型，我们介绍了一种新颖的无监督反演方法，针对由偏微分方程引起的逆问题，通过解决一个逆向时间的随机微分方程来实现将后验分布作为条件生成过程的任务。此外，为了提高反演结果的准确性，我们提出了一种基于 ODE 的扩散后验采样反演算法。通过一系列涉及各种偏微分方程的实验证明了我们提出方法的效率和鲁棒性。
Apr, 2024
本文研究了扩散模型以及它们在数据分布为高斯分布时的数值实现，通过精确表达不同的 Wasserstein 误差，从而比较每种误差类型对任何采样方案的影响，直接在数据空间中监测收敛性，实验证明扩散模型文献中推荐的数值方案也是适用于高斯分布的最佳采样方案。
May, 2024
扩散基于生成模型使用随机微分方程和其等效的常微分方程在复杂数据分布与可追踪的先验分布之间建立平滑连接。本文中，我们发现扩散模型的基于常微分方程的采样过程中存在着一些有趣的轨迹特性。我们表征了一个隐式去噪轨迹，并讨论了其在形成具有强形状规律性的耦合采样轨迹中的重要作用，无论生成的内容是什么。我们还描述了一种基于动态规划的方案，使得采样的时间安排更好地适应底层轨迹结构。这种简单的策略对于任何给定的基于常微分方程的数值求解器只需要最小的修改，并且在计算成本几乎可忽略的情况下，能够在图像生成中提供卓越的性能，特别是在 5 到 10 个函数评估中。
May, 2024
我们引入了一种名为高斯混合求解器 (GMS) 的新型 SDE-based 求解器用于扩散模型，通过在采样过程中估计前三阶矩并使用广义矩估计法优化高斯混合转移核的参数，我们的求解器在图像生成和基于笔画的合成等各种扩散模型中在样本质量方面优于许多其他 SDE-based 求解器，验证了 GMS 的动机和效果。
Nov, 2023
本文提出了一种基于随机微分方程的得分模型生成方法，通过缓慢注入噪声将复杂数据分布平滑地转换为已知的先验分布，并通过缓慢地消除噪声将先验分布转换回数据分布，同时利用基于神经网络的得分生成建模技术可以精确估计这些得分，并使用数值微分方程求解器生成样本。
Nov, 2020