一步采样的连贯性模型在训练阶段中具有良好的实证效果，通过训练一系列连贯性函数，能够将扩散过程的任何时间步骤的任意点映射到其起始点，其理论基础表明，为了生成与目标分布在 ε 接近程度内的样本，连贯性学习的步骤数应超过 d^5/2/ε，其中 d 为数据维度，这一理论为连贯性模型的有效性和实用性提供了深入洞察，从而启示其在下游推理任务中的实用性。

Feb, 2024

本文提出了一种统计理论，将一致性模型的训练视为分布差异最小化问题，并通过使用 Wasserstein 距离，导出了与传统扩散模型相匹配的一致性模型的统计估计速率，同时揭示了一致性模型通过蒸馏和隔离方法进行训练的优势。

Jun, 2024

扩散模型在图像生成、解决逆问题和文本到图像合成等各种应用中展示了领先的性能。我们揭示了与大多数其他生成模型截然不同的 “一致模型可重现性” 现象，通过广泛的实验表明，扩散模型在相同初始噪声输入和确定性求解器采样时，倾向于产生几乎相同的输出内容。此模型可重现性在不同的训练环境下均成立，包括记忆化和泛化模式。进一步的分析提供了对 “记忆化模式” 中模型可重现性的理论解释，并揭示此有价值的特性适用于许多扩散模型的变种。更深入理解此现象有可能产生基于扩散模型的更可解释和可控的数据生成过程。

Oct, 2023

一种训练一致性模型的替代方案，通过表达常态模型轨迹的微分方程，提高训练效率，并显示出经典的幂律缩放规律。

Jun, 2024

多步一致性模型是一种介于一致性模型和扩散模型之间的统一方法，通过增加采样步骤可以更容易地训练出高质量样本，保持了大部分采样速度的优势。

Mar, 2024

我们提出了一种用于离线、离线到在线和在线三种典型强化学习设置的高效且表达力强的策略表示方法，称为一致性策略，以一种演员 - 评论家风格的算法应用连续模型，展现了其在多模态数据、计算效率和性能方面的优势。

Sep, 2023

扩散模型在近年来引起了广泛关注，然而其高计算成本限制了实际应用，本文通过研究发现了扩散模型的稳定性，并提出了两种训练加速策略，即课程学习的时间步骤调度和动量衰减策略。实验结果表明，这些策略可以显著减少训练时间并提高生成图像的质量。

Mar, 2024

扩散模型中的错误传播问题及其解决方法的实验和理论验证，提出了一种一致性正则化方案来降低前向和后向过程之间的分布差异，并引入了引导算法来降低计算成本。在多个图像数据集上的实验结果表明，该正则化策略有效地处理了错误传播问题，并显著提高了传统扩散模型的性能。

Aug, 2023

提出了一种结合了 Poisson 流一致性模型（PFCM）的后采样 Poisson 流一致性模型（PS-PFCM）的图像去噪技术，该方法能够在低剂量 CT 图像上优于当前的最优扩散样式模型，并在 CIFAR-10 数据集上提供了初步结果。

Feb, 2024

扩散模型在理论和实践中的广义化能力、一般化差距以及模型对模式变化的敏感性进行了全面的理论分析和定量分析，证明了其在样本大小和模型容量上具有多项式级别的小一般化误差，使得其非常适用于实际应用。

Nov, 2023