Jun, 2024

正则化分布匹配蒸馏用于一步非配对图像到图像转换

PDF
TL;DR通过压缩扩散模型为高效的单步生成器，保持质量作为目标的扩散蒸馏方法是一种训练通用形式单步生成器的合适框架，适用于除无条件生成之外的应用。本研究中，我们引入其修改版称为规则化分布匹配蒸馏，适用于无配对图像到图像问题。我们展示了其在几个翻译任务中的实证表现，包括 2D 示例和不同图像数据集之间的图像转换任务，其中其性能与多步扩散基准相当或更好。
diffusion distillation methodsdistribution matching distillationregularized distribution matching distillationunpaired image-to-image problemsmulti-step diffusion baselines
发现论文，激发创造
  • 快速图像合成的改进分布匹配蒸馏

    通过引入 DMD2 技术，将 Distribution Matching Distillation 应用于一步图像生成，通过 GAN loss 以及多步采样等技巧的改进，在降低推理成本的情况下，取得了在图像生成任务中新的最优结果。

    May, 2024

  • 一步扩散与分布匹配蒸馏

    通过实施分布匹配蒸馏 (Distribution Matching Distillation) 以及多步扩散输出的大规模结构简单回归损失相匹配的方法，我们将扩散模型转化为一步图像生成器，以显著降低对图像质量的影响，使其在 ImageNet 64x64 上达到 2.62 FID，在无监督 COCO-30k 上达到 11.49 FID，并可通过 FP16 推理在现代硬件上以 20 FPS 生成图像。

    Nov, 2023

  • 将扩散模型融合为条件生成对抗网络

    我们提出了一种方法将复杂的多步扩散模型提炼为单步有条件生成对抗网络学生模型，从而大大加速推理过程，同时保持图像质量。我们的方法将扩散提炼解释为一种对应的图像到图像转换任务，使用扩散模型 ODE 轨迹的噪声到图像对。为了进行高效的回归损失计算，我们提出了一种在扩散模型的潜空间中直接操作的感知损失 E-LatentLPIPS，利用增强的集合。此外，我们改进了扩散模型，构建了一个多尺度鉴别器，具有文本对齐损失，建立了一种有效的基于条件生成对抗网络的公式。即使考虑到数据集构建成本，E-LatentLPIPS 也比许多现有的提炼方法更高效。我们证明我们的一步生成器在零样本 COCO 基准测试上优于最先进的一步扩散提炼模型 - DMD、SDXL-Turbo 和 SDXL-Lightning。

    May, 2024

  • 条件扩散蒸馏

    通过图像条件实现的一种新颖的有条件蒸馏方法，将扩散模型的先验知识与图像条件相结合，大大简化了以往两阶段的蒸馏过程，并通过少量的额外参数和冻结的无条件主干网络实现了一种新的高效蒸馏机制，实验结果表明，该方法在多个任务上的表现优于现有的人工蒸馏技术，并且是第一个能够与更慢的精细调优有条件扩散模型相匹配的蒸馏策略。

    Oct, 2023

  • 通过矩匹配多步蒸馏扩散模型

    我们提出了一种新的方法，通过匹配沿采样轨迹给定噪声数据的干净数据的条件期望来将扩散模型加速采样，从而将多步扩散模型提炼为少步模型。我们的方法扩展了最近提出的一步方法到多步情况，并通过以矩匹配的方式解释这些方法，从而提供了一种新的视角。通过使用多达 8 个采样步骤，我们获得的提炼模型不仅在 Imagnet 数据集上超越了其一步版本，还超越了原始的多步教师模型，获得了最新的最先进结果。我们还展示了一种大型文本到图像模型的有希望结果，在该模型中，我们可以直接在图像空间中快速生成高分辨率图像，而无需自编码器或上采样器。

    Jun, 2024

  • I$^2$MD：带有内外模态相互蒸馏的三维动作表征学习

    介绍了一种新的互模态和内模态的相互蒸馏框架，通过改进跨模态交互和解决相似样本干扰问题，实现了自监督学习，在三个数据集上取得了新的记录。

    Oct, 2023

  • UNIT-DDPM: 带去噪扩散概率模型的非配对图像翻译

    提出一种新颖的无需对抗训练的图像分类方法，该方法使用基于去噪扩散概率模型的单张图像转换方法。我们的方法是通过最小化以另一个域为条件的去噪得分匹配目标来训练生成模型以推断图像的联合分布。我们同时更新域翻译模型，并通过基于 Langevin 动力学的去噪马尔科夫链蒙特卡罗方法来生成目标域图像。该方法在几个公共数据集上实现了最先进的 Frechet Inception Distance（FID）性能，包括彩色和多光谱影像，并明显优于当前的对抗图像转换方法。

    Apr, 2021

  • 一个类别一个提示：使用扩散模型进行数据集精炼

    利用生成式文本到图像模型的最新进展，我们引入了数据集精炼使用扩散模型 (D3M) 作为一种新的数据集精炼范式。通过文本反演技术，我们利用学习到的文本提示为大型数据集创建简洁且有信息量的表示，以在固定的内存预算内有效地存储和推理新样本，并通过在不同内存预算下在各种计算机视觉基准数据集上进行的广泛实验验证了我们方法的有效性。

    Mar, 2024

  • 一步扩散模型的 EM 蒸馏

    通过 EM Distillation 方法，将扩散模型精简至一步生成器模型，以最小损失的感知质量学习最大似然，提高了在 ImageNet-64 和 ImageNet-128 上的 FID 评分，并优于先前在文本到图像扩散模型提取方面的工作。

    May, 2024

  • 扩散模型是固有的一步生成器

    扩散模型的实例教学方法和分布教学方法在图像生成模型方面取得了显著的研究成果，提出的分布教学方法在减少训练图像数量的同时取得了最先进的结果，提高了对高效图像生成模型的理解并为各种应用提供了可扩展的框架。

    May, 2024