Inception 评分、标签平滑、梯度消失和 - log (D (x)) 的替代方案
利用自然梯度基于潜在空间的优化改进了 CS-GAN 模型,增强了模型的生成器和辨别器之间的互动,通过在 ImageNet 数据集上的实验表明,该方法在生成对抗网络训练中可显著提高模型性能。
Dec, 2019
本文系统研究了当前使用类别标签的生成对抗网络 GANs 以及相关的分类信息对 GAN 网络的训练和生成效果的影响,并提出了一种新的基于激活最大化的 AM-GAN 生成对抗网络方案,在 CIFAR-10 数据集上实现了 8.91 的 state-of-the-art Inception 得分,并提出 AM 得分评价指标以更准确地评估生成样本质量。
Mar, 2017
本文通过导出一个变分框架来推导连续时间生成扩散理论,并表明该理论中最小化匹配得分损失等价于最大化该理论内所提出的可逆 SDE 插件的似然度的下限。
Jun, 2021
本文提出一种将 GAN 优化问题转化为广义变分不等式的方法,并借鉴数学规划方法,通过平均,外推以及过往外推等方法,扩展了变分不等式优化技术用于 GAN 的训练。
Feb, 2018
该论文研究了无监督学习中生成模型的训练方法,提出了一种在对抗网络与似然训练之间进行混合训练的方法,其中使用深度可逆变换来解决概率和逆变换之间的冲突,实现了更好的生成样本和更高的似然性评估。
Jan, 2019
本文提出了一个广义 GAN 框架来合成表格数据,旨在解决可用数据通常受到限制、不完整或难以获得,以及数据隐私日益重要的问题。该方法通过降低关于真实记录的负对数密度来进一步提高合成质量,或者通过增加有关真实记录的负对数密度来生成更为现实但不过于接近真实记录的伪记录,以减少潜在的信息泄漏。实验结果表明,在减小对数密度时,该方法具有最佳的合成质量,而在增加对数密度时,能够增强隐私攻击的鲁棒性。
Feb, 2022
提出了一种新的一阶方法用于训练生成对抗网络(GANs),它修改了高斯 - 牛顿法来近似求解最小 - 最大海森矩阵,并使用谢尔曼 - 莫里森逆公式计算其逆,通过固定点方法确保必要的收敛。通过在 MNIST、Fashion MNIST、CIFAR10、FFHQ 和 LSUN 等常用的图像生成任务的数据集上进行数值实验证明了该方法的有效性。该方法能够在多个数据集上生成高保真度图像,并在与包括最先进的二阶方法在内的其他方法比较中,在 CIFAR10 上获得了最高的 Inception Score,执行时间与一阶最小 - 最大方法相当。
Apr, 2024
本文提出基于分数的扩散模型的最大似然训练方法,其中采用一种特定的权重方案,目标函数上界拘束负对数似然函数,达到了与当前最先进的自回归模型同等水平的负对数似然性能,验证了该方法在多个数据集、随机过程和模型结构上的有效性。
Jan, 2021
本研究使用多种类别的条件生成模型推断真实数据的类别标签,并使用分类器在真实数据上进行标签预测,提出了分类准确度评分(CAS)作为新的模型评价指标。实验证明基于自注意力模型的生成模型在 CAS 上显著优于反卷积生成对抗网络模型。
May, 2019