Nov, 2023

通过 Gromov-Monge 嵌入的单调生成建模

PDF
TL;DR通过使用 Gromov-Monge 嵌入（GME）的深度生成模型，我们提出一种解决生成对抗网络（GANs）面临的起始条件敏感性和模式崩溃等挑战的方法。我们在低维的潜在空间中通过 GME 识别数据的底层测度的低维结构，并在保持其几何性的同时将其映射到一个测度，然后将其最优地转运到参考测度。我们通过 GME 的几何性和生成映射的 $c$- 循环单调性来保持底层几何的一致性，这是确保更好的参数初始化和模式崩溃鲁棒性的第一步。数值实验证明了我们方法在生成高质量图像、避免模式崩溃以及对不同的起始条件具有鲁棒性方面的有效性。
generative adversarial networksgromov-monge embeddinglow-dimensional structurelatent spacemode collapse
发现论文，激发创造
  • BourGAN: 具有度量嵌入的生成网络

    本文讨论了生成对抗网络（GANs）中的模式坍塌问题，提出了一种基于度量空间的几何视角来嵌入数据，以解决自动确定潜在空间维度和构造高斯混合模型的方法，进而改进目标函数，通过理论分析支持每个方法步骤，并验证了该方法能够在真实和合成数据上产生分布于大多数模式中的样本，避免不需要的样本，性能优于现有 GAN 变体。

    May, 2018

  • GANE: 生成对抗网络嵌入

    本文提出了一种使用基于对抗生成网络的方法进行网络嵌入的模型，通过引入 Wasserstein-1 距离和三种不同的变体来解决无监督学习和有监督学习之间的鸿沟，实现在低维嵌入向量空间中保留网络中的第一和第二阶接近度，实验结果表明，在链接预测、可视化和聚类任务中，我们的模型始终优于现有技术，并有显著的改进。

    May, 2018

  • 深度生成图像模型的几何学及其应用

    本文基于几何学的角度探究 GAN 潜在空间的性质和图像变异机制，并提出一种基于网络结构的方法计算 GAN 图像多丽安流形的黎曼度量，这一方法可以有效地优化潜在空间的优化等应用，并便于解释变换维度。

    Jan, 2021

  • 通过流形熵估计来抑制 GAN 中的模式崩溃

    本文提出了一种新的训练管道以解决生成对抗网络（GAN）中的模式崩溃问题，通过将鉴别器推广为特征嵌入并最大化鉴别器学习到的嵌入空间的分布熵，利用两个正则化项：Deep Local Linear Embedding 和 Deep Isometric feature Mapping 来鼓励判别器学习数据中嵌入的结构信息，进而有效降低模式崩溃，提高样本质量。

    Aug, 2022

  • GAN 的最佳精度

    研究深度生成模型的潜在空间几何结构及优化条件，通过实验提出限制方法，提高生成对抗网络的性能。

    Jul, 2022

  • 使用生成对抗网络生成无监督文本嵌入空间以进行文本合成

    本文提出了一种名为 TESGAN 的框架，使用连续文本嵌入空间而非离散标记以解决梯度反向传播的问题，通过无监督学习来克服数据记忆问题，从而能够合成具有潜力的新句子。

    Jun, 2023

  • MEGAN: 多视角网络嵌入的对抗生成网络

    本研究提出一种新颖的生成对抗网络框架，即 MEGAN，用于多视角网络嵌入，通过保留多视角网络的信息并考虑它们之间的相关性，通过节点分类、链接预测和可视化任务的实验表明，该方法的表现优于现有的方法。

    Aug, 2019

  • IVE-GAN：不变编码生成对抗网络

    提出了一种新的 “不变编码生成式对抗网络”（IVE-GANs）框架，利用特定数据的不变特征进行逆向映射，使生成器可以涵盖更多数据模式并提升生成效果和表示能力，并在多个数据集上进行了验证。

    Nov, 2017

  • 生成对抗简约建模

    该论文提出了 GAROM，一种基于生成对抗网络（GAN）的简化模型方法，该方法将 GAN 和 ROM 框架相结合，通过引入数据驱动的生成对抗模型来学习参数微分方程的解决方案，并提供了关于其推理，模型泛化和方法的收敛性研究的实验证据。

    May, 2023

  • EL-GAN: 以嵌入损失为驱动的生成对抗网络用于车道检测

    本文提出了一种名为 EL-GAN 的基于生成对抗网络的语义分割框架，通过嵌入损失降低了后处理的复杂度和提高了训练稳定性，应用于 TuSimple 车道线数据集上，效果优于传统方法并达到 96% 以上的准确率。

    Jun, 2018