Flow-GAN:在生成模型中结合最大似然和对抗学习
该研究使用增量算法AdaGAN训练Generative Adversarial Networks(GAN)来解决GAN模型中出现的missing modes问题,并且证明了当每一步是最优的时候,这种增量方法可以在有限步数内收敛到真实分布,否则以指数速度收敛。
Jan, 2017
通过改进流媒体生成模型的限定设计选择,包括去量化时使用均匀噪声、使用不可表述的仿射流以及在耦合层中使用纯卷积神经网络,我们提出了一种新的流基模型Flow ++,它在标准图像基准上是现在最先进的非自回归模型,开始缩小自回归模型和流媒体模型之间显著的性能差距,并提供了代码实现。
Feb, 2019
本文研究了基于流的生成模型的对抗鲁棒性,从理论和实证两个角度出发,研究了几个模型的鲁棒性,并设计了两种类型的对抗攻击,最终使用一个混合对抗训练程序显著提高了这些生成模型的鲁棒性。
Nov, 2019
本研究提出了一种新的生成模型LED,它不仅可以高效地生成样本,还可以进行高效的密度估计,并通过最大化判别器输出的对数似然来鼓励生成数据的多样性,同时构建一个流式生成器,在保持良好的生成质量的同时,可以计算生成样本的准确概率。
Jun, 2022
建议了一个统一理论框架,将基于得分的扩散模型和生成对抗网络合并起来,提出了一个名为“鉴别器去噪扩散流”的新SDE,通过调整不同得分项之间的相对权重,可以在SDMs和GANs之间实现平滑转换,同时保持边际分布不变,提供了新的算法,并具有在高样本质量和快速采样速度之间实现灵活权衡的潜力。
Jul, 2023
生成对抗网络(GANs)可以生成高质量的样本,但不能提供样本周围的概率密度估计。本文通过最大化log-likelihood来建议改进分区函数的无偏估计方法,同时最大化生成器熵以提供更好的模式覆盖,利用一种新型的流网络——单向流网络来计算生成样本的密度,从而设计出分区函数的无偏估计方法,并在实验中验证了该方法的快速收敛性、与相似结构GANs相当的样本质量、成功避免过度拟合常见数据集以及产生平滑的低维潜在数据表示。
Jul, 2023
生成对抗网络(GANs)是在多个领域中生成逼真、多样化数据的强大工具。本研究综述了GANs的潜在架构、验证指标和应用领域,并探讨了GAN与Jensen-Shannon散度之间的深刻联系以及GAN框架的最优性特征。对GAN变体的效率、模型架构以及训练障碍和解决方案进行了评估,并详细讨论了GAN与Transformer、物理信息神经网络、大型语言模型和扩散模型等新开发的深度学习框架的整合。最后,揭示了该领域的若干问题和未来研究方向。
Aug, 2023