AAAIApr, 2020

使用生成模型实现快速且通用的音频对抗攻击

PDF
TL;DR本文提出了一种名为 FAPG 的快速音频对抗扰动生成器和一种名为 UAPG 的通用音频对抗扰动生成器，它们分别用于生成对特定音频输入的对抗扰动和通用对抗性扰动，并取得了比现有技术更快和更好的攻击性能。
dnn-based audio systemsadversarial attacksfapguapguniversal adversarial perturbation
发现论文，激发创造
  • 面向说话人识别的通用对抗扰动生成网络

    本文研究了针对采用深度学习的生物特征识别系统的攻击方法，并证明了普适性对抗扰动的存在。我们提出了一种生成网络，通过学习低维正态分布与普适性对抗扰动的映射关系，将其应用于扰动输入信号以欺骗训练有素的说话人识别模型，并在 TIMIT 和 LibriSpeech 数据集上的实验结果表明了我们模型的有效性。

    Apr, 2020

  • 使用生成模型的可传递通用对抗扰动

    本文提出了一种针对深度网络易受对抗扰动攻击的问题的方法，使用预训练网络生成图像无关对抗扰动（UAPs），并通过在源模型的第一层仅关注对抗能量的损失，提高了 UAPs 的传递性，并在实验中展示了该方法的优越性。

    Oct, 2020

  • 通用对抗性音频扰动

    本文展示了普适对抗扰动的存在，基于一些新提出的方法，使用惩罚公式可以成功实现针对音频分类体系结构的有目标攻击和无目标攻击。

    Aug, 2019

  • 关于通用对抗干扰的无数据对抗检测的有效性

    本论文提出了一种不需要原始训练数据即可计算 UAPs 的数据无关对抗性检测框架，并对各种文本分类任务进行了实验证明其具有竞争性的检测性能，且与正常推断相当。

    Jun, 2023

  • 通用对抗攻击综述

    本研究总结了最近在通用对抗攻击领域里取得的进展，讨论了攻击和防御方面的挑战以及通用对抗攻击存在的原因，旨在成为一项动态研究，不定期更新其内容，包括图像、音频、视频和文本等多个领域，欢迎该领域的作者联系我们，以纳入您的新发现。

    Mar, 2021

  • 基于梯度符号的快速对抗性恶意软件生成方法

    本文提出了 FGAM 方法，用于快速生成对抗恶意软件，通过迭代扰动字节以提高对抗能力，实验证明该方法相较于现有方法，成功生成的对抗恶意软件欺骗模型的成功率提高了约 84％。

    May, 2023

  • 使用生成模型学习通用对抗扰动

    本文介绍了一种生成网络 —— 通用对抗网络，它可以在数据集中添加生成输出并欺骗目标分类器，从而提高通用对抗攻击的效果。

    Aug, 2017

  • 普适性通用对抗攻击：超越加性扰动

    本文提出了一种新的通用对抗攻击框架 GUAP，通过非加性扰动或加性扰动，或两者的组合来发起攻击，实验表明该框架在 CIFAR-10 和 ImageNet 数据集上可以达到比当前先进通用对抗攻击方法高达 15％和 19％的攻击成功率。

    Oct, 2020

  • 破坏时间一致性：使用图像模型生成视频通用对抗扰动

    使用图像数据和图像模型的 Breaking Temporal Consistency（BTC）方法，通过对视频中邻近帧的特征相似性进行最小化以生成逆向模式的对抗性视频，在各种数据集中具有优越的效果。

    Nov, 2023

  • 通过通用对抗扰动对深度神经网络进行全局指纹识别

    本文提出了一种新颖且实用的机制，通过模型提取攻击来验证是否从受害者模型中盗取了嫌疑模型，并针对深度神经网络模型提出了 UAP 指纹识别方法，训练了一个通过对比学习的编码器，可以在仅检测 20 个指纹的情况下以置信度 > 99.99 检测出模型 IP 侵犯，并且在不同的模型架构下具有良好的普适性，在盗版模型上具有较强的鲁棒性。

    Feb, 2022