Nov, 2018

MD-GAN: 分布式数据集的多鉴别器生成对抗网络

PDF
TL;DR本文提出了 MD-GAN，这是一个新颖的学习过程；将其与改编后的联邦学习进行比较，使用 MNIST 和 CIFAR10 数据集，MD-GAN 表现出了每个工作节点上的学习复杂度降低两倍，同时在两个数据集上提供了比联邦学习更好的性能。
generative adversarial networksdistributed trainingmd-ganfederated learningmachine learning
发现论文，激发创造
  • 多智能体多元生成对抗网络

    介绍一种名为 MAD-GAN 的多智能体生成对抗网络架构，可以解决 GAN 领域的模式崩溃问题，实验表明该架构能产生高质量的样本且具有较强的去卷积能力。

    Apr, 2017

  • FedGAN：用于分布式数据的联邦生成对抗网络

    本文提出了一种名为 Federated Generative Adversarial Network (FedGAN) 的算法，用于训练分布式非独立同分布数据源的 GAN，并基于周期性同步本地生成器和辨别器以及平均和广播生成器和辨别器参数的中介。我们证明了 FedGAN 在标准假设下，使用随机近似和通信高效的随机梯度下降法，使用相等和两个时间尺度更新生成器和辨别器收敛。我们在玩具示例（2D 系统、混合高斯和瑞士拳击手数据集）、图像数据集（MNIST、CIFAR-10 和 CelebA）以及时间序列数据集（家庭电力消耗和电动汽车充电会话）上实验了 FedGAN。我们展示了 FedGAN 收敛并且具有类似于一般分布式 GAN 的性能，同时可以减少通信复杂性。此外，我们还展示了它对通信减少的鲁棒性。

    Jun, 2020

  • 生成式对抗网络

    提出了一种新的深度生成模型 —— 多对抗生成网络（GMAN），以实现高质量图像的生成，相比标准 GAN，使用了多个判别器进行训练，无需调整损失函数，实现了更快、更有效的训练。

    Nov, 2016

  • 多生成器生成对抗网络

    本文提出了一种名为 Mixture GAN （MGAN）的新方法，该方法采用多个生成器的混合训练，旨在克服 mode collapsing 问题，通过理论分析得出结论，证明了在平衡状态下，多个生成器的分布和数据分布之间的 Jensen-Shannon 差异最小，生成器之间的 Jensen-Shannon 差异最大，从而有效地避免了 mode collapsing 问题，能够在多项实验中取得明显的优势。

    Aug, 2017

  • 生成对抗网络（GANs）的收敛问题

    本文旨在为数学家提供适用的 GANs 理论解释，概述 GANs 的训练问题和拓扑学和博弈论视角如何贡献于我们理解和实践 GANs 的技术的正面和反面结果。

    Jun, 2018

  • 生成对抗网络 (GANs) 的十年：最新技术综述

    生成对抗网络（GANs）是在多个领域中生成逼真、多样化数据的强大工具。本研究综述了 GANs 的潜在架构、验证指标和应用领域，并探讨了 GAN 与 Jensen-Shannon 散度之间的深刻联系以及 GAN 框架的最优性特征。对 GAN 变体的效率、模型架构以及训练障碍和解决方案进行了评估，并详细讨论了 GAN 与 Transformer、物理信息神经网络、大型语言模型和扩散模型等新开发的深度学习框架的整合。最后，揭示了该领域的若干问题和未来研究方向。

    Aug, 2023

  • 生成式对抗网络的公正性分析

    本文分析并强调 GAN 模型的公平性问题，提出了针对样本组的 GAN 模型调节或采用集成方法的解决方案，避免因训练过程中对某些群体偏好而测试时不能统一生成不同群体的数据分布。

    Mar, 2021

  • 在人工数据集上训练 GAN 的经验教训

    通过训练 GAN 在人工数据集上，我们发现混合多个 GANs 相比于使用更深、更宽、更复杂的单个生成器会获得更好的结果。在 CIFAR-10 数据集上，我们的方法在流行的指标（IS 和 FID）上明显优于现有技术的表现。

    Jul, 2020

  • GAN 生成器之间的共享损失

    利用多个生成器竞争、同时与鉴别器的交互来解决传统 GAN 中的模式崩溃问题，大幅度减少训练时间，同时不影响其性能。

    Nov, 2022

  • 生成对抗网络概述

    本文概述了生成对抗网络在信号处理中的应用，讨论了 GANs 的训练方法和构建策略以及它们在 deep representations 学习中的表现和存在的挑战。

    Oct, 2017