Oct, 2023

CADS: 通过条件退火采样释放扩散模型的多样性

PDF
TL;DR通过使用一种改进的采样策略，我们提供了一种可以增加扩散模型的生成多样性的方法，尤其是在高指导尺度下，同时最小化样本质量损失。该方法通过在推理过程中向条件向量添加预定的、单调递减的高斯噪声来退火条件信号，以平衡多样性和条件对齐。我们的 Condition-Annealed Diffusion Sampler (CADS) 可以与任何预训练模型和采样算法一起使用，并且我们证明它在各种条件生成任务中提高了扩散模型的多样性。此外，通过使用现有的预训练扩散模型，CADS 在 256×256 和 512×512 像素的类条件 ImageNet 生成任务中取得了新的最优 FID 值，分别为 1.70 和 2.31。
conditional diffusion modelsgeneration diversityconditioning signalsampling strategycads
发现论文，激发创造
  • 不要丢弃你的样本！有意识的连贯训练有助于条件扩散

    本文提出了一种新的方法，名为一致性感知扩散（CAD），通过将一致性信息引入扩散模型，使其能够从带有噪声标注的数据中学习，而无需摒弃数据。该方法在各种条件生成任务上在理论上和实证上表现出很好的性能，能够生成符合条件信息的真实且多样化的样本。

    May, 2024

  • 扩散模型中实用且渐近精确的条件抽样

    本文提出了一种名为 Twisted Diffusion Sampler 的串行蒙特卡罗算法用于生成条件分布，该算法具有更高的计算效率和更准确的近似度，并成功应用于蛋白质设计。

    Jun, 2023

  • 图像逆问题中的可导条件扩散对于离域自适应

    我们介绍了一种名为可控条件扩散的新型采样框架，它将去噪扩散模型与可用的测量数据相结合，实现了对多样的成像模态下的离群任务的显著改进，推动了去噪扩散模型在实际应用中的鲁棒部署。

    Aug, 2023

  • 条件扩散蒸馏

    通过图像条件实现的一种新颖的有条件蒸馏方法，将扩散模型的先验知识与图像条件相结合，大大简化了以往两阶段的蒸馏过程，并通过少量的额外参数和冻结的无条件主干网络实现了一种新的高效蒸馏机制，实验结果表明，该方法在多个任务上的表现优于现有的人工蒸馏技术，并且是第一个能够与更慢的精细调优有条件扩散模型相匹配的蒸馏策略。

    Oct, 2023

  • 基于扩散模型的少样本图像合成的条件分布建模

    条件分布建模 (CDM) 是一种有效利用扩散模型进行少样本图像生成的框架，通过对用于条件化扩散过程的潜空间分布进行建模，CDM 利用训练数据的学习统计信息更好地近似未见类别的分布，从而消除因少样本样本数目限制而引起的偏见，同时我们还设计了一种新颖的基于反演的优化策略，进一步改进了近似的未见类别分布，确保生成样本与未见类别的准确性。我们在四个基准数据集上的实验结果表明了我们提出的 CDM 在少样本生成中的有效性。

    Apr, 2024

  • 关于引导式扩散模型的精馏

    本文介绍了一种将分类器自由引导扩散模型蒸馏为更快采样的方法，以减少推理时间，并取得了与原始模型相当的图像有效性。

    Oct, 2022

  • 扩散模型对抗生成网络 (GANs) 在图像合成方面占优

    通过扩散模型和分类器引导，我们的图像合成方法在 FID 指标以及覆盖分布方面优于现有的生成模型，我们的代码开源。

    May, 2021

  • 级联扩散模型用于高保真图像生成

    通过级联扩散模型和条件增强，我们成功的在 class-conditional ImageNet generation benchmark 上生成了高保真图像，并取得了优越的 FID scores 和分类精度。

    May, 2021

  • 弥合差距：解决分类器自由引导的扩散模型训练中的不一致性

    为了解决传统训练方法与生成模型的条件抽样行为之间的差异，本文介绍了一种更新的损失函数，通过改进训练目标与抽样行为的一致性来提高样本质量，并对不同的引导比例进行了实验验证。

    Nov, 2023

  • 利用预条件扩散采样加速基于得分生成模型

    本文提出了一种基于矩阵预调和扩散采样的方法，可加速得分为基础的生成模型（SGMs）的推断，特别在更具挑战性的高分辨率图像生成时，其速度可提高 29 倍，而不影响合成质量。

    Jul, 2022