AAAIDec, 2023

LRS: 通过利普希茨正则化提升敌对迁移性

PDF
TL;DR提出了一种新颖的基于 Lipschitz 规正化的模拟模型（LRS）方法，用于转移性黑盒攻击中，通过改进模型参数以获得更好的攻击效果和转移性。研究还揭示了模拟模型的内在属性与转移性之间的关联，包括更小的局部 Lipschitz 常数、更平滑的损失曲面和更强的对抗鲁棒性。通过对现有深度神经网络和防御模型的攻击实验，结果表明使用 LRS 方法的攻击成功率和转移性显著提高。
发现论文，激发创造
  • 从替代训练中理解对抗可迁移性

    通过对拟合平滑度和梯度相似度进行权衡，我们揭示了对抗传递的调节机制，发现数据分布移位导致的梯度相似度降级说明了拟合平滑度与梯度相似度之间的贸易协定，并提出了一种更好的替代品构建方法，旨在优化拟合平滑度和梯度相似度，通过数据增强、梯度正则化等技术进行验证。

    Jul, 2023

  • 来自贝叶斯神经网络的有效且可迁移的对抗样本

    使用贝叶斯深度学习技术，以神经网络权重的后验分布进行抽样建立一个 surrogate，可以进一步提高黑盒攻击的可转移性，本文探究了提高攻击可转移性的训练方法， 将我们方法的表现与几种已有方法进行了比较，能够在 ImageNet 上获得 94% 的准确率。

    Nov, 2020

  • 转移攻击再探：在实际计算机视觉环境下的大规模经验研究

    本文通过大规模系统的实证研究，探究了云端机器学习服务平台的漏洞和其普遍存在的在深度神经网络中的 “对抗攻击” 问题，发现先前的假设和结论在真实世界环境下不再一致，并指出了对未来研究方向的启示。

    Apr, 2022

  • 针对 Lipschitz 密度的损失敏感型生成对抗网络

    本文提出使用 Lipschitz 正则化理论构建的 LS-GAN，进一步以该理论为基础，提出了 GLS-GAN，得到了很好的实验结果，同时还扩展到了条件形式，表现出色于图像分类任务中。

    Jan, 2017

  • LGV: 从大规模几何邻域增强对抗样本的可传递性

    本文提出了一种名为 Large Geometric Vicinity（LGV）的新技术，旨在增加黑盒对抗攻击的可转移性，利用预训练的代理模型，通过多个训练周期和常数高学习率收集多个权重集，并利用两个几何属性来解释可转移性现象，进一步揭示权重空间几何性质对解释对抗性攻击的转移性问题的重要性。实验证明，LGV 单独表现出优于四个测试时变换的表现。

    Jul, 2022

  • 广义 Lipschitz 正则化等于分布式健壮性

    探讨关于对抗性样本的问题，提出一种基于运输成本不确定性集合的正则化方法，实现了对 Lipschitz 正则化模型的稳健性证明，揭示了对抗学习和分布鲁棒性之间的联系，并提供了对核分类器的 Lipschitz 正则化方法。

    Feb, 2020

  • 从对抗可转移性的视角探索潜在扩散模型的对抗攻击

    通过对代理模型属性的调查，从对抗迁移的角度出发，我们发现选择更平滑的代理模型能够显著提高基于蒙特卡罗的对抗样本的性能，同时通过理论分析解释了为什么平滑的代理模型也可以增强潜在扩散模型的对抗样本。

    Jan, 2024

  • 通过 Lipschitz 正则化减轻 Transformer 模型过度自信

    本文提出了一种基于 Lipschitz 正则化的新型 Transformer 模型，将巴拿赫空间距离应用于相似度函数中，进而提高预测精度、校准和不确定性估计效果。

    Jun, 2023

  • 对抗性利普希茨正则化

    本研究提出了一种名为 Adversarial Lipschitz Regularization 的方法，其可行地利用了显式的 Lipschitz 惩罚，并在训练 Wasserstein GANs 时表现出与隐式惩罚相同的性能表现，凸显了 Lipschitz 正则化和对抗性训练之间的重要联系。

    Jul, 2019

  • 通过达到平坦的局部最大值提高对抗迁移性

    本文提出一种新方法来生成攻击模型的对抗样本，该方法结合了平稳局部区域和梯度规范化来获得更好的迁移性，实验结果在 ImageNet 兼容数据集上表明此方法比现有的攻击方法能够更好地提高模型的迁移性。

    Jun, 2023