InfoGAN-CR 和 ModelCentrality: 面向 GAN 解耦的自监督模型训练和选择

Jun, 2019

InfoGAN-CR 和 ModelCentrality: 面向 GAN 解耦的自监督模型训练和选择

InfoGAN-CR: Disentangling Generative Adversarial Networks with Contrastive Regularizers

Zinan Lin, Kiran Koshy Thekumparampil, Giulia Fanti, Sewoong Oh

TL;DR通过使用自监督学习的方法一方面设计了一种新的对抗网络（GAN）模型和一个无监督模型筛选方案，另一方面提出了一种对比约束规则来提高模型向目标空间映射时对潜在因素进行解耦的能力。这种方案与对抗网络或自编码器等其他方法相比，具有更高的可解释性和速度。

Abstract

Training disentangled representations with generative adversarial networks (GANs) remains challenging, with leading implementations failing to achieve comparable performance to Variational Autoencoder (VAE)-based methods. After $\beta$-VAE and FactorVAE discovered that regularizing the total correlation of the latent vectors promotes disentanglement, numerou

发现论文，激发创造

无监督解缠的光谱正则化

通过对生成模型进行解缩表示，可以独立控制输出的不同方面，本文提出了一种基于奇异值分解的正则化方法，可以用来无监督地训练GANs生成具有独立控制的输出。

Dec, 2018

OOGAN: 用 One-Hot Sampling 和正交正则化解开 GAN 的纠缠

本文探讨了使用 GAN 实现无监督分解学习的潜力，提出了一种新的基于 GAN 的分解框架，使用 One-Hot Sampling 和正交正则化(OOGAN)。通过针对生成器和鉴别器结构的微小结构变化和正交正则化，实现了更优秀的分解结果，且实验结果表明在高分辨率图像上 OOGAN 取得了很好的效果。

May, 2019

高保真度分离表示合成

提出了一种基于信息提取的生成对抗网络框架（ID-GAN），可用于通过VAE-based模型学习分离表示，并将其提炼为生成高保真图像的GAN生成器。

Jan, 2020

用潜在变化可预测性学习分离表示

本文提出了一种基于变量可预测性的方法来优化VAE和GAN框架中的潜变量表征的解缠方法，该方法通过最大化潜变量变化与相应图像变化之间的互信息来增强变量的可预测性，同时提出了一种新的评估指标来度量潜在维度的解缠性能。研究表明，所提出的变量可预测性方法与当前基于与真实情况的度量模型表现出很好的相关性，可以有效地增强潜变量表征的解缠能力。

Jul, 2020

Hessian Penalty: 无监督分离的弱先验

通过引入Hessian Penalty正则化项并应用于多个数据集的ProGAN来训练，我们证明基于Hessian Penalty的方法在潜空间中产生平行于轴的解缠缚现象。并且在BigGAN的潜空间中无需监督地识别可解释方向。我们还提供了实证证据表明，当应用于超参数化的潜空间时，Hessian Penalty鼓励显著的收缩。

Aug, 2020

生成对抗网络中的对比式解缠

本文从对比学习的角度提出了一种新的对抗生成网络（CD-GAN）来解决因潜变量的后验推断和缺乏样本似然性而难以实现的生成模型因果解释的问题，它通过对比图像特征来实现对数据中不同类之间可辨别属性的提取，并通过仅有的有限监督来提高模型的性能。实验结果表明了该模型在多个数据集上对数据进行高效的可解释性特征提取。

Mar, 2021

无自编码的无监督解缠的陷阱和未来方向

本文研究基于对比学习的正则化方法来实现大规模数据集的非监督式解缠表示学习，并分析了不同正则化方法的利弊与下游任务性能表现。

Aug, 2021

无监督图像生成中的正交Jacobian正则化强制解耦

本文提出一种名为OroJaR的正交Jacobian正则化方法，用于鼓励深度生成模型学习独立的表示方法，从而在图像生成方面表现出较高的效果和优越性能，实验标明该方法在空间相关变化等方面的潜在功能表现良好。

Aug, 2021

VAE解缠结先决条件: 感知重叠

本文研究如何通过修改重建损失来实现VAE的去纠缠表征，并提出一种广义对抗训练的数据集来破解现有的去纠缠框架。

Feb, 2022

SC2GAN: 自校正相关 GAN 空间重新思考纠缠

本研究探讨了生成对抗网络（GANs）中潜在空间的交错问题，并提出了一种新的框架SC$^2$GAN以实现解交错。通过重新投影原始潜在编码样本并根据高密度和低密度区域进行编辑方向的修正，利用原始的有意义方向和语义区域特定层插值原始潜在编码，生成罕见的属性组合的图像，然后将这些样本反转回原始潜在空间。我们将该框架应用于学习有意义潜在方向的现有方法，并展示了它在添加了少量低密度区域样本的情况下解交错属性的强大能力。

Oct, 2023