基于 GAN 的半监督学习:重温流形正则化
本文提出了一种使用生成对抗网络的半监督学习方法,通过估计数据流形的切空间并注入不变性到分类器中来提高半监督学习性能,在学习反向映射时提出了改进的方法,并提供了关于假样本对半监督学习过程的影响的见解。
May, 2017
本文在生成对抗网络中引入流形学习方法来打磨辨别器,考虑局部约束线性和基于子空间的流形以及局部约束的非线性流形,利用流形学习和编码的设计将中间特征表示映射到流形上,并通过协调特征表示和流形视图之间的差异性,实现去噪和流形精细化的两难平衡,并在实验中发现局部约束的非线性流形优于线性流形,性能也明显优于现有的基线算法。
Dec, 2021
本文提出一种基于图卷积神经网络的半监督图像分类方法,采用不同类型的流形学习策略,通过无监督学习的方式实现了对于有限标注数据的图像分类任务,实验结果表明该方法优于传统和现有技术,并且运行时间高效。
Apr, 2023
本研究探讨了生成对抗网络中的潜在分布问题,特别是在学习一个不连续的流形集合时。通过建立不连续流形学习的免费午餐定理,提出了用生成器雅可比的范数导出拒绝抽样方法,在 BigGAN 等生成器上取得了效果优异的结果。
Jun, 2020
该研究探讨了深度神经网络中过拟合问题的原因,并提出了基于流形假设的正则化方法,包括有标签和无标签情况下的流形正则化,实验证明这些方法可以显著提高模型泛化性能。
Nov, 2015
本文中我们应用各种新的架构特点和训练流程来改进生成对抗网络(GANs)框架,并着重讨论了 GANs 的两个应用程序:半监督学习和图像生成。使用我们的技术,我们在 MNIST,CIFAR-10 和 SVHN 的半监督分类方面取得了最先进的成果,并呈现了高质量的生成的 MNIST 和 CIFAR-10 图像样本和 ImageNet 样本,呈现出 ImageNet 类可识别特征的学习过程。
Jun, 2016
本文研究了 GAN 模型难以正确模拟支持在不连通流形上的分布的问题,并提出了使用多个生成器来解决这个问题的方法,并提出了一种新的方法来学习先验分布,并在不需要人工干预的情况下推断所需的生成器数量,以使模型可以学习支持在不连通流形上的分布。本文的贡献包括证明单一生成器 GAN 模型难以正确模拟支持在不连通流形上的分布以及提出了解决这个问题的方法,并通过实验来验证所提出的方法的有效性。
Jun, 2018
本研究提出了基于贝叶斯公式的 GAN 模型,通过使用随机梯度哈密顿蒙特卡罗方法边缘化生成器和鉴别器网络的权重,在不需要特征匹配或使用小批量区分等标准干预的情况下,实现半监督和无监督的学习效果,避免了模式崩塌的问题,并在多个基准数据集上取得了最佳性能。
May, 2017
提出了两种新的技术来训练生成对抗网络(GANs),旨在减轻 GAN 中的模式崩溃问题并提高生成样本的质量,通过邻居嵌入和梯度匹配技术,可以显式保留潜在样本的局部结构,从而降低模式崩溃风险,并取得了在 1D / 2D synthetic、CIFAR-10 和 STL-10 数据集上优异的结果。
Nov, 2018
本文提出了一个新颖的局部生成对抗网络(Localized GAN),使用局部坐标系向量化真实数据的不同局部几何变换。在正交先验的作用下避免了流形局部坍塌到低维切向子空间,降低了模式崩溃的风险。用提出的 LGAN 训练分类器不仅能获得更优结果,而且分类结果是在流形中的局部连续性解释,与拉普拉斯 - 贝尔特拉米算子密切相关。
Nov, 2017