Jan, 2024

关于生成对抗模型在低内在数据维度下的统计特性

PDF
TL;DR尽管生成对抗网络（GANs）在实证方面取得了显著的成功，但其统计准确性的理论保证仍然相对悲观。本论文试图在理论和 GANs 以及双向 GANs（BiGANs）的实践之间架起桥梁，通过推导出关于估计密度的统计保证，以数据的固有维度和潜在空间为基础。
generative adversarial networksbi-directional ganstheoretical guaranteesintrinsic dimensionwasserstein-1 distance
发现论文，激发创造
  • 生成对抗网络学习分布的误差分析

    本文研究了生成对抗网络（GAN）如何从有限样本中学习概率分布，得到了 GAN 在一组 H"older 类定义的积分概率度量下的收敛速度和 Wasserstein 距离特殊情况下的学习率，并证明了当网络结构适当选择时，GAN 能够自适应地学习低维结构或具有 H"older 密度的数据分布。特别是对于集中在低维集合周围的分布，我们展示了 GAN 的学习速率不取决于高环境维度，而取决于较低的内在维度。我们的分析基于一种新的神谕不等式，将估计误差分解为生成器和鉴别器逼近误差和统计误差，这可能是具有独立研究价值的。

    May, 2021

  • 基于 Wasserstein 的普通生成对抗网络

    生成对抗网络（GANs）和 Wasserstein GANs 之间的关系及其在概率分布估计中的应用进行研究，其中重点研究了维数降低特性、Oracle 不等式和 Lipschitz 函数的近似收敛性。

    Mar, 2024

  • 对抗特征学习

    通过设计 BiGANs 模型实现 GANs 的逆向学习与无监督特征学习以及其在辅助监督鉴别任务中的有效性。

    May, 2016

  • 生成对抗网络能否学习密度：一种非参数方法

    本文研究了属于生成对抗网络框架下学习密度函数的收敛速度，通过借鉴非参数统计学中的思路引入了一种改进型生成对抗网络估算器，同时利用目标密度的光顺程度和度量结果，实现更快速的学习速率，并理论上解决了文献中报道的模式崩溃问题。作者还构建了最小极大下界来证明，在维数较大的情况下，新生成对抗网络估算器的速率指数是接近最优的。因此我们的结果可以以量化的方式回答生成对抗网络在多种光滑程度具有不同密度下的学习效果，并从中获得了更好的泛化界限。

    Dec, 2017

  • 生成对抗网络学习分布的效果

    本论文研究了生成性对抗网络（GANs）的收敛速率和损失函数，探讨了在不同参数和非参数条件下的目标分布，都能通过 GANs 进行逼近， 建立了基于生成器和判别器的正则化理论，提出了生成器 - 判别器对正则化的新概念，为分布估计提供了有效的统计保证。

    Nov, 2018

  • GAN 的最佳精度

    研究深度生成模型的潜在空间几何结构及优化条件，通过实验提出限制方法，提高生成对抗网络的性能。

    Jul, 2022

  • 生成模型的自适应密度估计

    该论文研究了无监督学习中生成模型的训练方法，提出了一种在对抗网络与似然训练之间进行混合训练的方法，其中使用深度可逆变换来解决概率和逆变换之间的冲突，实现了更好的生成样本和更高的似然性评估。

    Jan, 2019

  • 深度生成图像模型的几何学及其应用

    本文基于几何学的角度探究 GAN 潜在空间的性质和图像变异机制，并提出一种基于网络结构的方法计算 GAN 图像多丽安流形的黎曼度量，这一方法可以有效地优化潜在空间的优化等应用，并便于解释变换维度。

    Jan, 2021

  • 通过不变统计损失训练隐式生成模型

    通过无判别器方法训练一维隐式生成模型，然后扩展到多元情况，成功地学习真实分布并解决现有隐式方法存在的问题。

    Feb, 2024

  • 群不变 GAN 的统计保证

    本研究通过分析群不变 GAN 模型在样本复杂度方面的改进，量化表明当学习群不变分布时，所需样本数量随着群体大小的幂次下降，这一幂次取决于分布支撑的固有维度。结果是第一次为群不变生成模型，特别是 GAN 模型提供了统计估计，并可为其他群不变生成模型的研究提供参考。

    May, 2023