Sep, 2018

记忆重播生成对抗网络：学习生成新类别图像而不遗忘

PDF
TL;DR本文针对生成模型中的遗忘问题，提出了一种称作 Memory Replay GANs (MeRGANs) 的有条件生成对抗网络框架，通过集成记忆重现生成器来缓解前几类的遗忘，在 MNIST、SVHN 和 LSUN 数据集上的实验结果表明，该记忆重现方法能够生成较竞争力的图像，同时显著减轻遗忘的前几类。
sequential learninggenerative modelsgenerative adversarial networksmemory replayforgetting
发现论文，激发创造
  • 记忆先于生成：使用记忆网络无监督地学习 GAN

    提出了一种名为 MemoryGAN 的全新 GAN 模型，该模型使用可学习的记忆网络来解决无监督 GAN 训练过程中存在的结构不连续和过度遗忘问题，并在多个数据集上进行了评估，证明其能够产生高度逼真的图像，实现了 CIFAR10 数据集上无监督 GAN 模型的最先进 Inception 得分。

    Mar, 2018

  • 封闭循环记忆 GAN 用于连续学习

    本文提出了一种基于累计的闭环记忆重放生成对抗网络的方案，并引入了外部正则化进行最大样本多样性的小型内存单元。实验结果表明，在使用动态内存单元的条件下，该方案在处理硬任务学习方面具有很高的性能增长。

    Nov, 2018

  • 深度生成回放的持续学习

    本文提出一种新的深度学习框架 Deep Generative Replay 来解决在实现万能人工智能时的一个长期问题：灾难性遗忘。通过引入灵感于灵长类大脑海马体的短期记忆系统，在该框架中包含一个生成模型和一个任务求解模型，并在图像分类任务中进行了相关实验和测试。

    May, 2017

  • 从持续学习的角度看生成模型

    本文比较评估了不同生成模型在连续学习时的适用性，主要研究了不同策略下生成模型的记忆及生成质量表现，结论为原始 GAN 模型表现最优，而 generative replay 策略最优。

    Dec, 2018

  • 无遗忘的 GAN 记忆

    为解决生命周期学习中的灾难性遗忘问题，提出了一种基于生成式对抗网络记忆的方法，通过形成视觉上差异化的目标生成来记忆数据流，实现无遗忘学习。该方法通过基于先前任务的信息前向传递和调制来体现生命周期学习，证明了其在生命周期分类问题上相对于现有方法的优越性和有效性。

    Jun, 2020

  • 基于重播的连续学习在语义分割中的应用: RECALL

    研究使用生成对抗网络和网络抓取数据重现不可用的旧类数据，避免遗忘和背景类的数据分布变化，达到在连续学习中存在不同步骤和背景类分布变化的情况下更好的表现。

    Aug, 2021

  • 生成回放与反馈连接作为连续学习的通用策略

    本文的主要研究方向是解决人工神经网络在学习新任务时会快速遗忘以前学到的任务而导致无法实现真正的生命周期学习的问题，该文提出了一种新的方法，即基于生成回放的连续学习方法，该方法可以在各种不同的场景下实现优异的性能表现。

    Sep, 2018

  • 自监督 GAN 抵御遗忘

    本文介绍了如何通过自我监督方法对 GAN 模型中的鉴别器进行改进，以避免其出现遗忘现象，提高模型性能。

    Oct, 2018

  • 基於生成回放的評論式學習方法

    本研究提出了一种名为 Review Learning 的深度学习连续学习技术，使用神经突触权重中存储的记忆信息生成数据样本，并避免了在数据集转移学习中出现的灾难性遗忘现象，从而在保护数据隐私的前提下，提高了模型的性能表现。在使用三类二分类电子病历数据进行仿真和真实医疗多机构实验验证后，本文表明 Review Learning 能够高效保留之前学习的知识。

    Oct, 2022

  • 终身 GAN: 面向条件图像生成的持续学习

    本文研究了生成模型中的终身学习问题，提出了一种使用知识蒸馏的解决方案，可以在保持之前任务能力不变的同时完成新的任务，该方法适用于不同的有条件图像生成设置。

    Jul, 2019