利用生成对抗网络对文档进行建模
本文提出了一种在生成对抗网络中产生直接能量估计样本的方法,并证明该方法不仅可以确保生成器收敛到真实数据分布,而且还能使辨别器在全局最优时保留密度信息。我们推导出所引入解决方案的解析形式,并分析其性质。为了使所提出的框架在实践中可训练,我们引入了两种有效的近似技术。实验结果与理论分析紧密匹配,证明辨别器能够恢复数据分布的能量。
Feb, 2017
介绍了一种名为 “能量基生成对抗网络”(EBGAN)的模型,将判别器视为能量函数,用于选定数据流形附近区域的低能量和其他区域的高能量,可以使用多种体系结构和损失函数,本文采用自编码器架构,以重构误差作为能量,实现了高分辨率图像的生成。
Sep, 2016
本篇论文提供了一个新的原则,即利用生成模型的层次结构将自编码器与生成对抗网络相结合,以防止学习到的生成模型中的模式崩溃,并使用区分器学习合成可能性和隐式后验分布。
Jun, 2017
本文探讨了使用 GAN 自学习等机制解决自然语言生成中离散输出空间问题;通过实验表明,提出的模型在中文古诗生成数据集上取得了最新的高分,可以生成自由语序和概率性上下文无关语法。此外还介绍了一个条件模型,可根据句子特征生成序列。
May, 2017
本文提出一种使用知识蒸馏的方法来有效利用生成对抗网络(GAN)进行文本生成,通过将自编码器(AE)用于提供连续的句子表示来演示该方法。实验结果表明,相较于传统的基于 GAN 的文本生成方法而言,该方法在 BLEU 得分和 Jensen-Shannon 距离(JSD)方面表现更好。
Apr, 2019
本文提出了一种名为 TESGAN 的框架,使用连续文本嵌入空间而非离散标记以解决梯度反向传播的问题,通过无监督学习来克服数据记忆问题,从而能够合成具有潜力的新句子。
Jun, 2023
本文提出了一种利用生成对抗网络(GAN)优化端到端框架,实现鲁棒语音识别的方法,该方法能够使编码器具有改进的不变性,而不需要依赖于专业知识或简化假设,并通过数据驱动的方式,直接提高模型的鲁棒性,从而提高了模型的远场语音识别能力。
Nov, 2017