Oct, 2023

AFLOW: 在极限噪音受限设置下开发对抗样本

PDF
TL;DR通过提出一种新的 Normalize Flow-based 全链路攻击框架，称为 AFLOW，以在严格约束条件下合成不可察觉的对抗性样本，该方法能够在图像质量和攻击能力上具有卓越性，甚至在健壮模型上也能取得比以前方法更高的攻击效果。
deep neural networksadversarial attacksadversarial examplesnormalize flow-basedrobust models
发现论文，激发创造
  • AdvFlow：使用归一化流的隐蔽式黑盒对抗攻击

    本文介绍了一种新的黑匣子对抗攻击方法，该方法基于规范化流来对给定目标图像周围的对抗性样本密度进行建模，在生成的对手中，其具有更接近干净数据分布的属性，从而使其检测不太可能。此外，与部分现有的攻击方法相比，论文实验证明该方法具有较强的攻击性能。

    Jul, 2020

  • 使用归一化流进行黑盒对抗样本生成

    提出一种基于正则化流的新型黑盒对抗攻击方式，该方法通过对预先训练的流式模型基本分布进行搜索，生成的对手更加接近原始数据。同时，该研究还展示了该方法相对于已知黑盒对抗攻击方法的竞争性能。

    Jul, 2020

  • 面向神经网络的不可察觉且强韧对抗样本攻击

    该研究提出了一种新的对抗样本攻击方法，考虑到人类感知系统并最大化制作的对抗样本的噪声容忍度，实验结果证明了该技术的有效性。

    Jan, 2018

  • 使用自适应噪声降低在深度网络中检测对抗样本

    该文章提出了一种直接部署到标准深度神经网络模型中的简单方法，通过引入两个经典图像处理技术，标量量化和平滑空间滤波，将图像中的扰动降低到最小，使用图像熵作为度量标准，可以有效地检测出对基于多种攻击技术的先进深度学习模型的 20,000 多个对抗样本，最终的实验结果表明，该检测方法可以取得 96.39％的高整体 F1 评分。

    May, 2017

  • 使用点云攻击场景流

    为解决深度神经网络对场景流网络的鲁棒性问题，本研究通过引入针对场景流网络的白盒对抗攻击，发现对一维点云或颜色通道进行攻击对平均端点误差具有显著影响。实验结果显示生成的对抗性样本使 KITTI 和 FlyingThings3D 数据集上的平均端点误差相对劣化达到 33.7。此外，对场景流网络和其 2D 光流网络变体的攻击成功和失败的分析表明光流网络更加容易受到攻击。

    Apr, 2024

  • LFAA：使用低频扰动创建可转移的定向对抗样本

    通过利用深度神经网络对图像高频分量的扰动的脆弱性，我们提出了一种新方法来生成可转移的有针对性对抗样本，该方法通过训练条件生成器生成针对性的对抗扰动，并将其添加到图像的低频分量中，实验证明我们的方法显著优于现有的方法，将有针对性攻击成功率提高了 3.2% 至 15.5%。

    Oct, 2023

  • 通过对抗性噪声传播训练强大的深度神经网络

    本篇论文提出了一种名为 Adversarial Noise Propagation 的训练算法，将噪声注入隐藏层以提高深度模型的鲁棒性，并证明不同的隐藏层对模型鲁棒性和整洁的准确性有不同的贡献。该算法可有效地与其他对抗性训练方法相结合，进一步提高模型的鲁棒性。在 MNIST、CIFAR-10、CIFAR-10-C、CIFAR-10-P 和 ImageNet 上的广泛实验表明，ANP 实现了深度模型对对抗性和受损数据均具有强大的鲁棒性，并明显优于各种对抗性防御方法。

    Sep, 2019

  • 光流攻击

    本文研究了深度学习在光流估计中的鲁棒性，并表明对小于 1％的图像区域进行扰动就可以大大影响光流估计，对编码器 - 解码器体系结构的网络影响很大，而对空间金字塔体系结构的网络则较小，并且通过实验演示了这种攻击是实用的。

    Oct, 2019

  • 基于感知度量的任务通用性对抗攻击

    提出一种基于永续度量的方法，通过创造高度扭曲网络特征空间的攻击来达到高度通用的敌对样本，旨在打破相对有限的目前攻击的限制，并可将其通过多个网络扩展到多个任务。

    Nov, 2018

  • 深度神经网络的噪声稳健性分析

    本文提出一种视觉分析方法，通过比较和分析对抗和正常示例的数据路径，解释为什么对抗性示例被错误分类。使用神经网络构建和训练解决其子集选择问题，采用多层可视化来帮助研究数据路径的。

    Jan, 2020