Nov, 2023

SMaRt：基于分数匹配规则改进 GANs

PDF
TL;DR生成对抗网络（GAN）的数学基础不足以解决复杂多样数据的学习问题，通过引入分数匹配（score matching）的正则化优化方法（SMaRt），在各种现实世界数据集上提高了各种最新 GAN 的综合性能。
generative adversarial networksmathematical foundationsscore matchingoptimizationsynthesis performance
发现论文，激发创造
  • 基于 GAN 的半监督学习：重温流形正则化

    使用 GAN 进行流形正则化，采用 Monte Carlo 近似方法进行拉普拉斯规范化，结合 GAN 实现特征匹配 GAN，并在 CIFAR-10 数据集上实现了半监督学习并取得了最先进的结果。

    May, 2018

  • GANs 解决分数！

    本文提出了一种基于变分分析的生成对抗网络（GAN）的统一方法，讨论了在 $f$-divergence-minimizing GANs 和 IPM GANs 中的最优生成器，展示了基于分数匹配和流匹配的训练方法，以及判别器引导 Langevin 采样方法。

    Jun, 2023

  • 生成建模中的评分不匹配

    我们提出了一个具有一步采样的基于分数的模型，通过训练一个独立的生成器，用从分数网络反向传播的梯度来压缩所有时间步骤，以产生对于生成器有意义的梯度，并使分数网络同时匹配真实数据分布和伪造数据分布，该模型具有采样快速、训练简单且免除了由一致性损失引起的不适定问题的优势，通过在 CIFAR-10 数据集上进行实验证明了该框架的潜力，并在 MINIST 和 LSUN 数据集上提供了更多示例。

    Sep, 2023

  • 邻居嵌入和梯度匹配改进生成对抗网络

    提出了两种新的技术来训练生成对抗网络（GANs），旨在减轻 GAN 中的模式崩溃问题并提高生成样本的质量，通过邻居嵌入和梯度匹配技术，可以显式保留潜在样本的局部结构，从而降低模式崩溃风险，并取得了在 1D / 2D synthetic、CIFAR-10 和 STL-10 数据集上优异的结果。

    Nov, 2018

  • 正则化生成对抗网络

    本研究论文证明生成式对抗网络的不稳定性和漏模现象源自鉴别器在高位空间内的特殊功能形状，提出了多种正则化目标的解决方案从而实现生成模型的稳定训练并解决数据生成分布的漏模问题。

    Dec, 2016

  • 通过正则化稳定生成对抗网络的训练

    通过提出一种新的正则化方法，我们克服了 GAN 模型分布和数据分布之间维度不匹配的局限性，并证明了该正则化方法在多种常见图像生成任务中的有效性。

    May, 2017

  • 少样本 GAN 适应的光滑相似性正则化

    我们提出了一种新的平滑相似正则化方法，将预训练的 GAN 的平滑性从结构上不同的领域转移到少样本目标域，解决了现有方法在结构不同的源域和目标域之间容易出现训练不稳定性和记忆问题的限制，实验证明我们的方法在结构上不同的源目标域的情况下，显著优于现有的少样本 GAN 适应方法，而在结构相似的源目标域方面与现有技术达到相同水平。

    Aug, 2023

  • 有限数据下的生成对抗网络正则化

    该论文提出了一种正则化方法来训练健壮的 GAN 模型，使其在有限的训练数据下表现更好，并且在几个基准数据集上的实验证明了该方法在提高泛化性能和稳定学习动态方面的有效性。

    Apr, 2021

  • 潜在空间中的基于得分的生成建模

    提出了一种基于变分自编码器框架的潜在分数生成模型 (LSGM)，通过使用潜在空间代替数据空间进行训练，使得该模型可以更加高效地生成样本且在多项任务方面取得了最先进的成果，同时在训练目标中提出多种方差约束的技术以保证其在稳定性和可扩展性上的表现。

    Jun, 2021

  • MatchGAN：自监督半监督条件生成对抗网络

    该论文提出了一种基于标签空间的图像增强，新颖的自我监督学习方法，用于半监督条件生成网络，通过将少量有标签的示例中的标签赋给大量无标签的示例，构成训练集并优化辅助匹配损失，实现了对 CelebA 和 RaFD 两项挑战性基准测试的有效性评估，表明其优于竞争基线和现有方法。

    Jun, 2020