ECCVAug, 2018

Ask, Acquire, and Attack: 使用类别印象生成无数据对抗样本

PDF
TL;DR研究发现，深度学习模型容易受到特定输入噪声影响，称为对抗扰动。此外，存在着无需输入数据样本即可影响大多数输入样本的通用对抗扰动。本文针对数据无法获取的情况，提出一种使用类印象模拟数据样本效果的新方法，通过神经网络层的简单前馈即可轻松制作对抗扰动。在无数据样本的情况下，本方法达到了最新的对抗扰动制作成功率，而不需要实际使用任何数据样本。
发现论文，激发创造
  • 关于通用对抗干扰的无数据对抗检测的有效性

    本论文提出了一种不需要原始训练数据即可计算 UAPs 的数据无关对抗性检测框架，并对各种文本分类任务进行了实验证明其具有竞争性的检测性能，且与正常推断相当。

    Jun, 2023

  • 使用生成模型的可传递通用对抗扰动

    本文提出了一种针对深度网络易受对抗扰动攻击的问题的方法，使用预训练网络生成图像无关对抗扰动（UAPs），并通过在源模型的第一层仅关注对抗能量的损失，提高了 UAPs 的传递性，并在实验中展示了该方法的优越性。

    Oct, 2020

  • 通用对抗攻击综述

    本研究总结了最近在通用对抗攻击领域里取得的进展，讨论了攻击和防御方面的挑战以及通用对抗攻击存在的原因，旨在成为一项动态研究，不定期更新其内容，包括图像、音频、视频和文本等多个领域，欢迎该领域的作者联系我们，以纳入您的新发现。

    Mar, 2021

  • 用于生成普适性对抗扰动的通用无数据客观函数

    本篇论文针对机器学习模型中的对抗扰动问题，提出了一种新的、通用的、不依赖于数据的目标函数，通过在多个层次上损坏提取的特征来生成图像无关的对抗扰动。实验结果表明，该目标函数相比于现有的方法具有更好的鲁棒性，能够在黑盒攻击场景下有效攻击深度学习模型，从而强调当前的深度学习模型面临着风险。

    Jan, 2018

  • 图像分类中最新通用对抗扰动的比较评估

    本文综述了最近在图像分类任务中的 UAPs 的进展，并将其分类为噪声攻击和生成器攻击，并提供了每个类别中代表性方法的全面概述，同时还评估了不同的损失函数在一致的培训框架内的各种攻击设置的有效性，最后提供了扰动的一些可视化及未来的潜在研究方向。

    Jun, 2023

  • CD-UAP：类别判别通用对抗扰动

    提出了一种新的通用攻击方法 CD-UAP, 可以生成一个唯一的通用扰动，以欺骗目标网络，使其错误分类只选定的类组，而对其余类组影响有限。通过基于各种损失函数配置的算法框架来设计并比较，其在各种基准数据集上进行了广泛的实验，获得了最先进的性能。

    Oct, 2020

  • 通过通用对抗扰动对深度神经网络进行全局指纹识别

    本文提出了一种新颖且实用的机制，通过模型提取攻击来验证是否从受害者模型中盗取了嫌疑模型，并针对深度神经网络模型提出了 UAP 指纹识别方法，训练了一个通过对比学习的编码器，可以在仅检测 20 个指纹的情况下以置信度 > 99.99 检测出模型 IP 侵犯，并且在不同的模型架构下具有良好的普适性，在盗版模型上具有较强的鲁棒性。

    Feb, 2022

  • 面向说话人识别的通用对抗扰动生成网络

    本文研究了针对采用深度学习的生物特征识别系统的攻击方法，并证明了普适性对抗扰动的存在。我们提出了一种生成网络，通过学习低维正态分布与普适性对抗扰动的映射关系，将其应用于扰动输入信号以欺骗训练有素的说话人识别模型，并在 TIMIT 和 LibriSpeech 数据集上的实验结果表明了我们模型的有效性。

    Apr, 2020

  • 图像检索的通用扰动攻击

    首次尝试以攻击图像检索系统为目标，利用新的方法生成反检索通用对抗扰动，通过降低相关的排名度量来打破图像特征之间的邻域关系。我们的方法通过多尺度随机调整大小的方案和排名蒸馏策略扩展攻击方法，并在四个广泛使用的图像检索数据集上进行了评估。在不同度量方面，如 mAP 和 mP @ 10 等，报告了显着的性能下降。最后，我们在实际的视觉搜索引擎 Google Images 上测试了我们的攻击方法，证明了我们的方法的实际潜力。

    Dec, 2018

  • 通用对抗扰动：一次调查

    本文研究深度学习中的普适性对抗扰动，探讨相关的数据驱动和数据无关的生成方法及防御技术，并讨论了普适性对抗扰动在各项深度学习任务中的应用。

    May, 2020