量化流形：生成对抗网络学习的流形是否收敛于真实数据的流形

Mar, 2024

量化流形：生成对抗网络学习的流形是否收敛于真实数据的流形

Quantifying Manifolds: Do the manifolds learned by Generative Adversarial Networks converge to the real data manifold

Anupam Chaudhuri, Anj Simmons, Mohamed Abdelrazek

TL;DR此论文通过实验分析了通过机器学习模型学习到的流形，比较了每个纪元学习到的流形与真实数据流形的差异，并研究了流形的内在维度和拓扑特征，以及这些度量随着模型训练的变化和趋于真实数据流形度量的趋势。

Abstract

This paper presents our experiments to quantify the manifolds learned by ML models (in our experiment, we use a gan model) as they train. We compare the →

manifolds ml models gan model intrinsic dimensions topological features

发现论文，激发创造

流形学习对 GAN 的优势

本文在生成对抗网络中引入流形学习方法来打磨辨别器，考虑局部约束线性和基于子空间的流形以及局部约束的非线性流形，利用流形学习和编码的设计将中间特征表示映射到流形上，并通过协调特征表示和流形视图之间的差异性，实现去噪和流形精细化的两难平衡，并在实验中发现局部约束的非线性流形优于线性流形，性能也明显优于现有的基线算法。

Dec, 2021

生成对抗网络的断开流形学习

本文研究了 GAN 模型难以正确模拟支持在不连通流形上的分布的问题，并提出了使用多个生成器来解决这个问题的方法，并提出了一种新的方法来学习先验分布，并在不需要人工干预的情况下推断所需的生成器数量，以使模型可以学习支持在不连通流形上的分布。本文的贡献包括证明单一生成器 GAN 模型难以正确模拟支持在不连通流形上的分布以及提出了解决这个问题的方法，并通过实验来验证所提出的方法的有效性。

Jun, 2018

流形上的投影梯度下降算法

本文提供了一种可计算、直接且数学严谨的方法，用于近似高维数据的类流形的微分几何，以及从输入空间到这些类流形的非线性投影。该方法应用于神经网络图像分类器的设置中，在流形上生成新颖的数据样本，并实现了流形上的对抗训练的投影梯度下降算法，以解决神经网络对对抗性攻击的敏感性问题。

Aug, 2023

通过流形拓扑评估深度生成模型的解缠结性

本文提出了一种利用生成模型度量解缕编表示的方法。通过量化学习表示中条件子流形的拓扑相似性，该方法不依赖于外部模型或特定数据集即可测量解缕编程度。我们通过多个数据集上的实验表明了该方法的有效性和适用性，发现与现有方法相比，该方法能够很好地对模型进行排序。

Jun, 2020

通过流形假设的视角解析深度生成模型：一项调查与新连接

深度生成模型与流形假设之间的相互作用引起了人们的广泛关注。本文通过流形视角对 DGM 进行了首次调查，并对其进行了两个新的贡献：首先，形式上证明了高维似然函数的数值不稳定性是无法避免的；其次，发现基于自编码器的 DGM 可以被解释为近似最小化 Wasserstein 距离，这一结果有助于解释其出色的实证结果。流形视角提供了理解 DGM 的丰富视角，我们希望能够使之更加易于理解和推广。

Apr, 2024

学习非连通流形：无 GAN 领域

本研究探讨了生成对抗网络中的潜在分布问题，特别是在学习一个不连续的流形集合时。通过建立不连续流形学习的免费午餐定理，提出了用生成器雅可比的范数导出拒绝抽样方法，在 BigGAN 等生成器上取得了效果优异的结果。

Jun, 2020

深层生成模型的度量标准

通过将 Riemannian 几何的思想应用到该领域，我们提出了一种基于最短路径计算的距离度量方法，可以获得基于原则的距离度量，提供深度生成模型的视觉检查工具和运动泛化工具。

Nov, 2017

深度生成图像模型的几何学及其应用

本文基于几何学的角度探究 GAN 潜在空间的性质和图像变异机制，并提出一种基于网络结构的方法计算 GAN 图像多丽安流形的黎曼度量，这一方法可以有效地优化潜在空间的优化等应用，并便于解释变换维度。

Jan, 2021

几何分数：一种比较生成对抗网络的方法

本文提出了一种新的基于几何学性质的 GAN 模型性能度量方法，可以定量和定性地评估生成样本的质量和模式崩溃的程度。该算法适用于各种类型的数据集，并不仅限于视觉数据。我们在多种真实模型和数据集上测试了该方法，并展示了其提供的 GANs 特性新洞察。

Feb, 2018

通过深度度量学习进行流形匹配，用于生成建模

本文提出了一种流形匹配方法来生成模型，该方法包括分布生成器和度量生成器，通过学习距离度量来生成符合真实数据流形的样本，并且应用于无监督和有监督学习任务，得到了良好的效果。

Jun, 2021