CVPRDec, 2021

流形学习对 GAN 的优势

PDF
TL;DR本文在生成对抗网络中引入流形学习方法来打磨辨别器，考虑局部约束线性和基于子空间的流形以及局部约束的非线性流形，利用流形学习和编码的设计将中间特征表示映射到流形上，并通过协调特征表示和流形视图之间的差异性，实现去噪和流形精细化的两难平衡，并在实验中发现局部约束的非线性流形优于线性流形，性能也明显优于现有的基线算法。
generative adversarial networksmanifold learningdiscriminatornon-linear manifoldsstate-of-the-art baselines
发现论文，激发创造
  • 生成对抗网络的断开流形学习

    本文研究了 GAN 模型难以正确模拟支持在不连通流形上的分布的问题，并提出了使用多个生成器来解决这个问题的方法，并提出了一种新的方法来学习先验分布，并在不需要人工干预的情况下推断所需的生成器数量，以使模型可以学习支持在不连通流形上的分布。本文的贡献包括证明单一生成器 GAN 模型难以正确模拟支持在不连通流形上的分布以及提出了解决这个问题的方法，并通过实验来验证所提出的方法的有效性。

    Jun, 2018

  • 学习非连通流形：无 GAN 领域

    本研究探讨了生成对抗网络中的潜在分布问题，特别是在学习一个不连续的流形集合时。通过建立不连续流形学习的免费午餐定理，提出了用生成器雅可比的范数导出拒绝抽样方法，在 BigGAN 等生成器上取得了效果优异的结果。

    Jun, 2020

  • 基于 GAN 的半监督学习：重温流形正则化

    使用 GAN 进行流形正则化，采用 Monte Carlo 近似方法进行拉普拉斯规范化，结合 GAN 实现特征匹配 GAN，并在 CIFAR-10 数据集上实现了半监督学习并取得了最先进的结果。

    May, 2018

  • 改进推理下的 GAN 半监督学习：流形不变性

    本文提出了一种使用生成对抗网络的半监督学习方法，通过估计数据流形的切空间并注入不变性到分类器中来提高半监督学习性能，在学习反向映射时提出了改进的方法，并提供了关于假样本对半监督学习过程的影响的见解。

    May, 2017

  • 全局与本地化生成对抗网络

    本文提出了一个新颖的局部生成对抗网络（Localized GAN），使用局部坐标系向量化真实数据的不同局部几何变换。在正交先验的作用下避免了流形局部坍塌到低维切向子空间，降低了模式崩溃的风险。用提出的 LGAN 训练分类器不仅能获得更优结果，而且分类结果是在流形中的局部连续性解释，与拉普拉斯 - 贝尔特拉米算子密切相关。

    Nov, 2017

  • 量化流形：生成对抗网络学习的流形是否收敛于真实数据的流形

    此论文通过实验分析了通过机器学习模型学习到的流形，比较了每个纪元学习到的流形与真实数据流形的差异，并研究了流形的内在维度和拓扑特征，以及这些度量随着模型训练的变化和趋于真实数据流形度量的趋势。

    Mar, 2024

  • 具有变分李群算子的流形对比学习

    本文提出了一种对抗学习方法，使用 Lie 群算子直接建模深度神经网络的潜在流形，在图像数据自监督评估和少标注的半监督任务中都表现出了良好的性能。

    Jun, 2023

  • 基于流形学习的图卷积网络用于半监督图像分类

    本文提出一种基于图卷积神经网络的半监督图像分类方法，采用不同类型的流形学习策略，通过无监督学习的方式实现了对于有限标注数据的图像分类任务，实验结果表明该方法优于传统和现有技术，并且运行时间高效。

    Apr, 2023

  • 流形上的投影梯度下降算法

    本文提供了一种可计算、直接且数学严谨的方法，用于近似高维数据的类流形的微分几何，以及从输入空间到这些类流形的非线性投影。该方法应用于神经网络图像分类器的设置中，在流形上生成新颖的数据样本，并实现了流形上的对抗训练的投影梯度下降算法，以解决神经网络对对抗性攻击的敏感性问题。

    Aug, 2023

  • 利用其学习的流形上的局部密度结构压缩图像到图像翻译生成对抗网络

    GAN 压缩方法从新的角度出发，通过在生成样本周围的局部邻域中保持原始模型的密度结构，提供了一种新的剪枝目标来规范剪枝模型，同时开发了一种协同剪枝方案，有效地在剪枝过程中保持生成器和判别器之间的平衡，从而展示出更稳定的剪枝动态。

    Dec, 2023