Jul, 2023

关于生成型自编码器在潜空间的对抗性鲁棒性

PDF
TL;DR本文第一次对生成自编码器的最坏情况容忍性进行研究，发现在某些情况下，恶意攻击者可以利用潜在空间攻击常见的生成自编码器，同时我们通过实验还发现了生成自编码器与其确定性变体之间的差异，并考虑了在最坏情况容忍性和潜在代码解缠之间的潜在权衡。
generative autoencoderslatent vulnerabilityadversarial robustnessvariational autoencodersdeterministic variants
发现论文，激发创造
  • 变分自编码器中潜空间的自适应压缩

    这篇文章介绍了一种对变分自动编码器 (VAEs) 进行简单扩展的方法，通过渐进性减小潜空间大小来自动确定训练过程中的最佳潜空间大小，并将该方法与传统的超参数网格搜索进行比较，结果表明其速度显著更快，且在四个图像数据集上实现了最佳的维度。此外，还证明了我们方法的最终性能与从头开始训练的最佳潜空间大小相当，因此可能作为一种便利的替代方法。

    Dec, 2023

  • LatentPoison - 针对潜在空间的对抗性攻击

    研究深度变分自编码器的潜在空间的稳健性，证明可以扰动潜在空间并使分类概率近乎相等，从而保证解码器输出不受攻击影响。

    Nov, 2017

  • 从局部几何的视角看 $β-$VAE 的对抗性鲁棒性

    该论文研究了 Variational Autoencoder (VAE) 的脆弱性，提出了使用 pullback metric tensor 和 robustness evaluation scores 评估 VAE 的鲁棒性，并且实验证明了 scores 与 VAE 的参数 $eta$ 相关联。

    Aug, 2022

  • 探索变分自编码器健壮性的理论理解

    研究了变分自编码器（VAEs）对抗攻击和其他输入扰动的鲁棒性，提出了用于构建 VAEs 鲁棒性的新准则，并定义了在输入空间中的保证条件，VAEs 训练使用解缠方法得出的评分在我们的鲁棒性指标下表现良好，这些原因可以解释为我们理论结果的结果。

    Jul, 2020

  • 复杂性的重要性：重新思考生成建模的潜空间

    本研究探讨了生成建模中潜在空间选择的最优解以及其确定过程，并提出了一种新的距离度量方法和具体的训练策略来优化潜在空间的选择，进而提高生成效果。

    Jul, 2023

  • 使用混合高斯变分自编码器抵抗对抗攻击

    本文介绍了一种利用变分自编码器 (VAE) 来解决深度神经网络 (DNN) 易受到针对性攻击的问题的方法，其关键是将鉴别模型与生成模型相结合，在先验分布中进行选择性分类，从而提高分类的准确性。

    May, 2018

  • 自动编码生成对抗网络的变分方法

    本篇论文提供了一个新的原则，即利用生成模型的层次结构将自编码器与生成对抗网络相结合，以防止学习到的生成模型中的模式崩溃，并使用区分器学习合成可能性和隐式后验分布。

    Jun, 2017

  • 对抗变分贝叶斯：统一变分自编码器和生成对抗网络

    介绍了 Adversarial Variational Bayes 技术，可以用于训练具有任意表达力的推理模型的变分自编码器，并将其与生成对抗网络建立起了原则上的联系。

    Jan, 2017

  • 使用变分自编码器对图像分类进行对抗性防御

    使用变分自编码器的防御策略抵御深度神经网络在图片分类任务中的对抗性攻击。这个防御系统具有灵活性、可学习分解表示以及基于像素块不需要针对不同尺寸的图片进行重新训练等特性，并在中度到严重的攻击情况下，明显胜过 JPEG 压缩及其最优参数，同时仍有提升空间。

    Dec, 2018

  • 生成模型的对抗性示例

    本篇研究探索在变分自编码器（VAE）和 VAE-GAN 等深度生成模型中生成对抗性样本的方法，并提出了三种攻击方式来测试针对 MNIST、SVHN 和 CelebA 数据集训练的网络，分别利用基于分类的对手，直接利用 VAE 的损失函数生成重构图像，以及直接优化源和目标潜在表示之间的差异。

    Feb, 2017