生成比率匹配网络
本文研究使用多层感知器、最大均值差异等统计假设检验技术来训练生成对抗网络,并与自编码器网络相结合,以产生比基准方法更优秀的 MNIST 和 Toronto Face Database 的生成模型。
Feb, 2015
通过引入对抗内核学习技术,提出了一种改进的生成矩匹配网络 MMD-GAN,它能够显著提高模型的表达性和计算效率,并在多个基准数据集上表现优异。
May, 2017
通过使用最大均值差异(MMD)作为批判家来研究生成对抗网络的训练和性能,我们澄清了最近的工作中提出的 GAN 损失函数中的偏差问题,并讨论了 MMD 批判家的内核选择问题,提出了改进的 GAN 收敛度量,核启动距离,并展示如何在 GAN 训练期间使用它动态调整学习速率。
Jan, 2018
通过最大均值差异的无偏估计作为双样本检验统计量,将深度神经网络视为生成器网络,将学习过程看做最小化二元检验统计量,通过实证比较及理论边界分析,探究了生成对抗网络框架及无参数核双样本检验框架的异同。
May, 2015
本研究提出了条件生成矩匹配网络 (CGMMN),基于条件最大均值差距 (CMMD) 标准,学习给定一些输入变量的条件分布,学习采用随机梯度下降,梯度通过反向传播计算。我们在广泛的任务上评估了 CGMMN,包括预测建模、上下文生成和贝叶斯暗知识,这些任务通过学习相对较小的 CGMMN 学生网络从贝叶斯模型中提炼知识。结果表明,在所有任务中都具有竞争性的性能。
Jun, 2016
该研究提出了一种通过敌对训练生成逼真文本的框架,采用了 LSTM 作为生成器,卷积网络作为判别器,并使用核距离度量匹配真实和合成句子的高维潜在特征分布,从而缓解了模式崩溃问题,并在定量评估方面表现出优越性,证明了该模型可以生成逼真的句子。
Jun, 2017
本文研究了生成对抗网络(GAN)的评估方法,发现基于核最大均值差(MMD)和最近邻(1-NN)等指标,可以较好地满足评估需要,同时具备区分真实样本与生成样本的性质,并探究了几种著名 GAN 模型的特性。
Jun, 2018
本文提出了一种基于 MMD 核的 GAN 模型正则化的梯度的原则性方法,证明控制批评者的梯度对于有意义的损失函数至关重要,并设计了一种方法来实施精确、分析梯度约束,使得新的损失函数具有连续性,并证明实验表明它可以稳定和加速训练,为 160 x 160 的 CelebA 数据集和 64 x 64 的无条件 ImageNet 数据集上的图像生成模型提供了优于现有方法的性能。
May, 2018
本研究提出了一种基于最大均值差异(MMD)的统计检验来最大化两个概率分布样本的表示和区分度的优化方法,并将其应用于生成对抗网络(GAN)的无监督学习设置中,在其中,MMD 可以用作两种角色:一是直接对样本或样本特征作为鉴别器使用,二是通过将模型样本与参考数据集比较来评估生成模型的性能。
Nov, 2016
本文提出了一种使用 Kullback-Leibler 项的方法来比较生成数据和真实数据的分布,以改进生成对抗网络在生成模型中的性能。
Jun, 2023