本文介绍了使用生成式对抗网络和正交正则化训练的大规模条件图片生成方法，并提出了一种截断技巧来控制生成器输入方差，从而在生成高保真度和多样化样本方面实现平衡。该方法应用于ImageNet数据集上，在128x128分辨率下，IS（Inception Score）为166.5，FID（Frechet Inception Distance）为7.4，表现超过之前的方法。

Sep, 2018

应用快速权重编程的学习规则以生成自然图像，能够可视化突触学习规则是如何迭代地产生复杂的连接模式，进而产生人类可识别的有意义的图像。

Oct, 2022

本文介绍了利用预训练扩散模型在数据自由的情况下对其他生成模型进行学习转移的Diff-Instruct框架，其中包括深入探讨的新的KL发散-Integral Kullback-Leibler（IKL）分散演化过程以及与已有方法如DreamFusion和生成对抗性训练的非平凡关系，并在两种情况下进行了实验以展示Diff-Instruct的效力和普适性。

May, 2023

我们介绍了两组新的初始化方法：第一组是通过应用变分自动编码器来局部初始化权重组，第二组是通过应用图形超网络来全局初始化完整的权重集合。我们通过在精度、收敛速度和集成方面对采用的生成模型对最先进的神经网络进行了彻底的评估。结果表明，全局初始化导致更高的准确性和更快的初始收敛速度，然而通过图形超网络实现的方式会降低对于超出分布数据的集成性能。为了弥补这个问题，我们提出了一种叫噪声图形超网络的修改方法，鼓励在生成的集成成员中产生多样性。此外，我们的方法可能能够将学到的知识传递给不同的图像分布。我们的工作提供了对于这些新的初始化方法的潜力、权衡和可能修改的见解。

Oct, 2023

用权重子克隆（weight subcloning）技术从大型预训练模型中初始化规模较小的转换器模型，实现训练速度的显著提升。

Dec, 2023

通过利用大规模的文本到图像扩散模型进行数据提炼，我们提出了一种更高效的方法，通过精细调整通用化特征的基础生成对抗网络模型，而不是重新训练整个基础模型，并采用简单但有效的秩搜索过程来进行低秩适应，从而显著减少了培训成本和与每个概念相关的存储，使得移动设备能够高效地实现实时高质量的图像编辑。

Jan, 2024

通过数据集条件的预训练权重采样，我们提出了一种高效且适应性强的迁移学习方案，通过学习一组预训练权重的分布来实现神经网络在未见数据集上的自适应采样，从而实现更快的收敛速度和更优的性能。

Feb, 2024

通过对抗学习目标，将单步扩散模型通过整合各种模块成为单一的端到端生成网络，以提高其保留输入图像结构并减少过拟合的能力，我们的模型在非配对设置下优于现有的基于GAN和扩散的方法，实现了各种场景转换任务，如昼夜转换和添加/删除雾、雪和雨等天气效果；在配对设置中，我们的模型与现有的作品如Sketch2Photo和Edge2Image的Control-Net不相上下，但具有单步推理。

Mar, 2024

通过将去噪步骤直接整合到模型的架构中，本研究提出了一种新方法，将扩散模型与生成对抗网络结合起来，通过知识蒸馏实现更高效的训练和评估，从而减少了所需的参数和去噪步骤，提高了测试时的采样速度。

May, 2024

使用神经残差扩散模型(Neural Residual Diffusion Models)框架，引入一系列可学习的门控残差参数来改善生成网络的可扩展性和生成内容的保真度与一致性。

Jun, 2024