离散时间扩散模型的非渐近收敛:新方法和改进速率
该研究发展了一套用于理解离散时间下扩散模型数据生成过程的非渐进理论,对于一种常见的确定性采样方法,该理论建立了一个与步骤总数$T$成反比例的收敛速率,对于另一种主流随机采样方法,该理论得出了一个与步骤总数$T$的平方根成反比例的收敛速率,同时设计了两种加速变体,进一步提高了收敛速度。
Jun, 2023
提出了一种用于简化离散扩散的数学简化方案,同时还提出了一种能够精确和加速采样的简单公式,并通过创建一个统一的模型,简化离散扩散的前向和后向概率计算,取得了在现有数据集上优于其他方法的效果。
Feb, 2024
在这篇论文中,我们研究了离散扩散模型的理论特性,通过引入一个算法利用连续马尔可夫链的均匀化,在随机时间点进行转移,我们得出了关于从超立方体上的任何分布进行采样的总变异距离和KL散度保证。
Feb, 2024
该研究论文通过严格证明特定DPM去噪策略在大量扩散步骤中收敛于均方误差最优条件均值估计器,为DPMs的理论理解做出了创新的贡献,并通过数值结果验证了理论发现。
Mar, 2024
本研究解决了扩散模型在生成建模中的收敛问题,提出了一种基于基本非渐近方法的概率流常微分方程采样器的收敛理论。研究表明,在满足最小假设条件下,使用$ \ell_2 $精确估计的Stein得分函数,经过$d/\varepsilon$次迭代即可将目标分布近似至$\varepsilon$的全变差距离,显著提高了对数据生成过程的理解。
Aug, 2024
本研究针对现有扩散模型收敛理论中严格假设和次优收敛速度的问题,提出了一种新的快速收敛理论。通过确保$\ell_{2}$-准确的评分函数估计,该理论表明目标分布与生成分布之间的总变差距离上界为$O(d/T)$,对任何具有有限一阶矩的目标分布均适用,显著改进了现有的SDE和ODE模型收敛理论。
Sep, 2024
本研究解决了离散状态扩散模型收敛性分析的不足之处,提出了一种基于连续时间马尔可夫链框架的离散时间采样算法。研究表明,在特定假设下,生成的样本分布与数据分布之间的Kullback-Leibler散度和总变差距离的收敛边界几乎线性依赖于维度d,具有重要的理论价值和实用意义。
Oct, 2024
本研究解决了离散扩散模型在误差分析方面的不足,提出了基于Lévy型随机积分的综合框架。通过广义的泊松随机测度,严谨地建立了离散扩散模型的随机积分形式,并首次为$\tau$-跳跃方案提供了KL散度的误差界限,从而为离散扩散模型的数学性质提供了新见解,并支持高效准确算法的设计。
Oct, 2024
本研究针对扩散模型在收敛性分析上的理论与实践之间的差距进行探讨,提出了一种新的迭代复杂度 $d^{1/3}\varepsilon^{-2/3}$,优于之前已知的最佳复杂度 $d^{5/12}\varepsilon^{-1}$。通过随机中点方法,这项研究为扩散模型提供了收敛性分析,并能在无对数凹性的限制下,实现高效的并行运算。
Oct, 2024