Nov, 2019

基于流的生成模型的对抗性鲁棒性

PDF
TL;DR本文研究了基于流的生成模型的对抗鲁棒性，从理论和实证两个角度出发，研究了几个模型的鲁棒性，并设计了两种类型的对抗攻击，最终使用一个混合对抗训练程序显著提高了这些生成模型的鲁棒性。
flow-based generative modelsadversarial robustnessglowrealnvphybrid adversarial training
发现论文，激发创造
  • Flow-GAN：在生成模型中结合最大似然和对抗学习

    通过混合训练方式，利用生成对抗网络以及精确似然估计评估方法，解决了最大似然训练无法评估生成质量的问题。

    May, 2017

  • 使用归一化流进行黑盒对抗样本生成

    提出一种基于正则化流的新型黑盒对抗攻击方式，该方法通过对预先训练的流式模型基本分布进行搜索，生成的对手更加接近原始数据。同时，该研究还展示了该方法相对于已知黑盒对抗攻击方法的竞争性能。

    Jul, 2020

  • 任何分类器的对抗性易受攻击性

    本文研究了对抗扰动现象，并推导了任何分类函数的鲁棒性的基本上界，以及证明了存在跨不同分类器传递的具有小风险的对抗扰动。研究显示了生成模型的关键属性，如平滑性和潜在空间的维度，并提供了信息量大的鲁棒性基线。

    Feb, 2018

  • 生成模型的自适应密度估计

    该论文研究了无监督学习中生成模型的训练方法，提出了一种在对抗网络与似然训练之间进行混合训练的方法，其中使用深度可逆变换来解决概率和逆变换之间的冲突，实现了更好的生成样本和更高的似然性评估。

    Jan, 2019

  • 基于模型的鲁棒深度学习：泛化到自然的离群数据

    文章提出了从基于扰动的对抗鲁棒性转向基于模型的鲁棒深度学习的新范式，并探讨了使用深度生成模型来学习自然变化模型并进一步提高深度学习对于自然变化的鲁棒性的三种新型算法，实验表明，该方法在自然情况下能够超越标准深度学习算法和基于范数的鲁棒深度学习算法。

    May, 2020

  • 强健的生成对抗网络

    本文提出了一种通过在小的邻域内促进局部鲁棒性来提高生成对抗网络的泛化能力的方法，并在 CIFAR-10 数据集上的实验表明，该鲁棒性生成对抗网络能够显著而一致地改善五个基线模型。

    Apr, 2020

  • 精准、可靠、快速的鲁棒性评估

    在神经网络的研究中，我们开发了一种新的梯度基础的对抗攻击方法，相较于已有的攻击方法，它更可靠，可以适应广泛的对抗标准，并且在提高效率的同时，不需要进行超参数调整，这将对神经网络的鲁棒性评估做出有益的贡献。

    Jul, 2019

  • AFLOW: 在极限噪音受限设置下开发对抗样本

    通过提出一种新的 Normalize Flow-based 全链路攻击框架，称为 AFLOW，以在严格约束条件下合成不可察觉的对抗性样本，该方法能够在图像质量和攻击能力上具有卓越性，甚至在健壮模型上也能取得比以前方法更高的攻击效果。

    Oct, 2023

  • 在训练中隐式生成随机噪声模型以提高对抗鲁棒性

    本文介绍了一种基于噪声的先验学习（NoL）方法，用于训练神经网络，使其具有内在的对抗攻击鲁棒性。该方法将具有相同损失函数的随机噪声进行隐式生成建模，并通过主成分分析的可视化工具来进一步理解对抗数据。我们的分析表明，在高排名的主成分上具有更高方差的模型，通常表现出对抗鲁棒性。我们展示了使用我们方法学习的模型对广泛攻击具有很好的性能，即使在白盒和黑盒攻击情况下和与最先进的对抗训练相结合，扩展了模型的鲁棒性，甚至超出其对抗训练的范围。

    Jul, 2018

  • 通过对抗性训练提高机器学习的稳健性

    研究了机器学习的鲁棒性，使用集中式和分散式环境进行对抗训练，结果显示比现有研究提高了 18.41% 和 47% 的准确性，并提出了独立同分布和非独立同分布数据的 IID 数据共享方法，可提高自然准确性和鲁棒准确性。

    Sep, 2023