May, 2024

通过对抗训练的分类和基于能量的判别增强一致性图像生成

PDF
TL;DR在这项研究中，我们提出了一种新颖而高效的技术来改善基于一致性模型生成的图像的感知质量，并利用联合分类器 - 判别器模型进行后处理，通过引导示例特定的投影梯度迭代，使合成图像更加精细，从而在 ImageNet 64x64 数据集上获得了改进的 FID 得分，适用于一致性训练和一致性蒸馏技术。
consistency modelsimage synthesispost-processingperceptual qualityfid scores
发现论文，激发创造
  • ACT: 对抗一致性模型

    通过在一步采样中最小化一致性训练损失来优化生成模型，提出了对抗一致性训练（ACT），通过在每一步骤使用鉴别器最小化分布间的 Jensen-Shannon 散度，从而提高了生成质量和收敛速度，这导致资源消耗大幅度减少，具有改进的 FID 分数。

    Nov, 2023

  • 能量模型对比散度训练的改进

    通过改进 CD 训练方法， 研究表明难以计算但可以计算出来的梯度对于避免训练不稳定性很重要，并可以使用数据增强和多尺度处理来提高模型的鲁棒性和生成质量，通过在多个基准测试中评估模型架构的稳定性，以及在图像生成，OOD 检测和合成生成等用例中表现出改进的性能。

    Dec, 2020

  • 训练一致性模型的改进技术

    一步法生成模型中的一种家族为一次生成高质量数据提供了新的方法，通过改进的一致性训练技术，该研究提出了克服预训练模型局限性以及避免评估偏差的方法，并在 CIFAR-10 和 ImageNet 数据集上表现出了显著的改进。

    Oct, 2023

  • 你的分类器实际上是基于能量的模型，你应该使用基于能量的模型的方法对待它

    本文提出将标准的判别分类器重新解释为联合分布的能量模型，以提高校准性、鲁棒性和生成学习的绩效。

    Dec, 2019

  • 自协同学习：生成器与鉴别器之间的协作

    本文提出了一种自洽学习的框架，利用生成对抗网络的生成模型和判别模型的博弈优化，使两者协同训练，避免了 GAN 训练不稳定的问题，并在句子语义匹配问题上实现了较好的性能。

    Mar, 2023

  • 虚拟对抗性离散扰动一致性训练

    通过添加离散噪音的扰动方法，可以更有效地将模型的决策边界推向具有抵抗干扰能力的点，并在半监督文本分类任务和鲁棒性基准测试中，优于其他基于文本编辑、释义或连续噪音的一致性训练基线方法。

    Apr, 2021

  • 用于文本引导图像编辑的可逆一致性蒸馏方法（约 7 步）

    通过应用可逆一致性蒸馏 (invertible Consistency Distillation, iCD) 框架，实现了在少于 4 个推理步骤中高质量图像合成和准确图像编码的目标，使得具有动态引导的 iCD 成为零样本文本引导图像编辑的高效工具。

    Jun, 2024

  • 通过对比学习的混合判别生成训练

    该论文通过能量基模型的混合判别 - 生成式训练，展现出对比学习和监督学习之间的直接联系，并且提出的能量基损失函数的逼近方法有着比现有方法更好的分类准确性、鲁棒性、分布检测和校准性能。

    Jul, 2020

  • 通过单一基于能量的模型完成图像生成和分类

    本文提出了一种名为 EGC 的基于能量的分类器和生成器，可通过单个神经网络同时实现优越的图像分类和图像生成效果。

    Apr, 2023

  • 能量基生成对抗网络的校准

    本文提出了一种在生成对抗网络中产生直接能量估计样本的方法，并证明该方法不仅可以确保生成器收敛到真实数据分布，而且还能使辨别器在全局最优时保留密度信息。我们推导出所引入解决方案的解析形式，并分析其性质。为了使所提出的框架在实践中可训练，我们引入了两种有效的近似技术。实验结果与理论分析紧密匹配，证明辨别器能够恢复数据分布的能量。

    Feb, 2017