Apr, 2024

保存检查点线性组合提高一致性和扩散模型性能

PDF
TL;DR利用合适的检查点平均系数， LCSC 方法能够通过沿训练轨迹结合检查点来增强 DM 和 CM 的性能，以降低训练成本并提高预先训练模型的生成质量。
diffusion modelsconsistency modelscheckpoint averaginglcsctraining cost
发现论文，激发创造
  • 一种简化的一致性模型

    一种训练一致性模型的替代方案，通过表达常态模型轨迹的微分方程，提高训练效率，并显示出经典的幂律缩放规律。

    Jun, 2024

  • 潜在一致性模型：用少量推理步骤合成高分辨率图像

    利用潜在一致性模型（LCMs）解决迭代抽样过程在高分辨率图像合成中的计算负担和生成速度慢的问题，LCMs 通过直接预测导引反向扩散过程的 ODE 解决方案在潜空间中，实现了快速、高保真度的采样。

    Oct, 2023

  • 分阶段一致性模型

    通过解决现有设计中的三个关键缺陷，本文提出了阶段一致性模型（PCM），该模型在多步细化的任务上显著优于现有方法，在一步生成任务上与先前的最新方法相当甚至更优。此外，PCM 的方法学还可应用于视频生成，使其成为最先进的少步文本到视频生成器之一。

    May, 2024

  • 轨迹一致性蒸馏

    通过增加 Trajectory Consistency Distillation（TCD）的一组函数和策略性的随机采样的设计，可以显著提高图像生成质量，同时减少由多步一致性采样中积累的误差所致的细节不足，并且在较高的 NFEs 下相较于教师模型更加详细。

    Feb, 2024

  • MLCM: 多步一致性蒸馏的潜态扩散模型

    将大型潜在扩散模型（LDMs）提炼为快速采样模型是一个备受关注的研究领域，本文通过扩展最新的多步一致性提炼（MCD）策略，建立了用于低成本高质量图像合成的多步潜在一致性模型（MLCM）。MLCM 通过与强调联合段一致性的渐进训练策略相结合，能够提高少步骤生成的质量。实验结果表明，MLCM 仅需 2-8 个采样步骤即可产生高质量、令人愉悦的图像，比 4 步骤的 LCM、8 步骤的 SDXL-Lightning 和 8 步骤的 HyperSD 显著优越；此外，MLCM 还在可控生成、图像风格转移和中文到图像生成等方面展示了其多功能性。

    Jun, 2024

  • 一致性模型的收敛保证

    我们给出了一种新型一步生成模型的收敛保证，这种模型被称为一致性模型（CMs），可以在一步内高效地从任何现实数据分布中进行采样并产生与弥散模型生成的样本相媲美的结果。

    Aug, 2023

  • 视频 LCM：视频潜在一致性模型

    论文介绍了一种名为 VideoLCM 的框架，它利用了一致性模型的概念，通过最小步骤高效地合成视频，同时保持高质量。VideoLCM 基于现有的潜在视频扩散模型，并结合了一致性蒸馏技术来训练潜在一致性模型。实验结果表明，VideoLCM 在计算效率、保真度和时间一致性方面的有效性。尤其值得注意的是，VideoLCM 仅需四个采样步骤即可实现高保真度和流畅的视频合成，展示了实时合成的潜力。希望 VideoLCM 能成为后续研究的简单而有效的基准。源代码和模型将公开提供。

    Dec, 2023

  • SCott：借助随机一致性蒸馏加速扩散模型

    通过集成随机微分方程求解器到一致性蒸馏中，提出并验证了 Stochastic Consistency Distillation (SCott) 方法，该方法能够加快文本到图像生成的过程，并且在稳定扩散 - V1.5 模型上，表现优于其他模型在 MSCOCO-2017 5K 数据集上的生成结果。

    Mar, 2024

  • 训练一致性模型的改进技术

    一步法生成模型中的一种家族为一次生成高质量数据提供了新的方法，通过改进的一致性训练技术，该研究提出了克服预训练模型局限性以及避免评估偏差的方法，并在 CIFAR-10 和 ImageNet 数据集上表现出了显著的改进。

    Oct, 2023

  • MDCS：用一致自我蒸馏实现更多样的专家增强长尾识别

    推广长尾识别的方法，通过引入更多多样化的专家和降低模型方差来提高识别准确性。使用多元化损失和自我蒸馏方法，实验证明该方法在多个实验中超过了现有技术的结果。

    Aug, 2023