May, 2023

发生在生成性扩散模型中的自发对称性破缺

TL;DR本文探讨了生成扩散模型的动力学性质,发现其决定性的相变点将其生成过程分为两个不同的阶段,对此我们提出了一种高斯后初始化方案,可显著提高模型性能,增加样本多样性并减少偏差,实验表明在快速采样上可实现 3 倍的 FID 改进。