Dec, 2023

QuadAttack: 有序 top-k 攻击的二次规划方法

PDF
TL;DR通过用低计算成本的 QuadAttacK 方法在特征嵌入空间中解决问题，在图像分类任务中成功将有序前 K 攻击的边界从 K=10 提升到 K=20，同时在所有测试模型中提高 K=5 的攻击成功率，而保持了 K=1 的性能。
adversarial vulnerabilitydeep neural networksquadattackordered top-k attacksfeature embedding space
发现论文，激发创造
  • 利用深度量化神经网络提高对抗攻击的鲁棒性

    该研究旨在解决如何创建可部署在资源受限的嵌入式设备上的精确、稳健、小型的深度神经网络模型的挑战，并报告了使用自动量化感知训练框架 QKeras 训练的鲁棒性小型 DNN 模型的结果，该模型稳健性能显著优于现有基准测试。

    Apr, 2023

  • 使用随机量化和信息理论集成训练提高量化深度神经网络对白盒攻击的鲁棒性

    通过引入可微分的随机量化器，通过多个不同的量化神经网络学习输入图像的不同表示，提高量化过的深度神经网络对白盒对抗攻击的鲁棒性。在不同威胁模型上进行统一分析，通过相关性将互信息和准确率结合，检测攻击并生成鲁棒性图谱。

    Nov, 2023

  • 主动学习实现的查询效率高的黑盒攻击

    本文探究了 DNN 的黑盒攻击方案，使用现有的白盒攻击方法产生的采样样本进行训练替代模型，并提出主动学习策略和多样性准则以优化其表现，实验证明该方法可以将查询数量减少超过 90% 并保持黑盒攻击成功率。

    Sep, 2018

  • QuantAttack：利用动态量化对抗视觉转换器

    该论文介绍了 QuantAttack，一种针对量化模型的新型威胁方法，通过精心设计的对抗样本耗尽操作系统资源，导致最坏情况性能，从而减慢推理速度，增加内存使用和能量消耗，实验证明了针对视觉转换器的攻击在各种任务中的有效性，包括单模态和多模态，并研究了不同攻击变种和模型之间的可转移性。

    Dec, 2023

  • 对抗性排名攻击和防御

    本文提出了两种针对深度排序系统的攻击方法，即候选攻击和查询攻击，并且也提出了一种防御方法来提高排序系统的鲁棒性，我们的攻击和防御方法在 MNIST、Fashion-MNIST 和 Stanford-Online-Products 数据集中进行了评估。实验结果表明，我们的攻击可以有效地攻击典型的深度排序系统，同时使用我们的防御方法可以中等程度地提高系统的鲁棒性，此外，我们的攻击展示了可以实现黑盒攻击的可能性。

    Feb, 2020

  • 深度产品量化网络在图像检索中的对抗攻击

    本文提出了一种名为产品量化对抗生成（PQ-AG）的方法，在处理大规模数据集时更高效，但存在输入小细微扰动的漏洞，实验表明该方法能成功创建这种扰动，并显著降低白盒和黑盒环境下的检索性能。

    Feb, 2020

  • 黑盒对抗攻击查询效率提升

    本文提出了一种基于神经过程的黑盒对抗攻击方法（NP-Attack），利用神经过程对图像结构信息进行建模，以提高查询效率，实验结果表明，NP-Attack 能显著减少黑盒情况下的查询次数。

    Sep, 2020

  • 高效组合优化的简约黑盒对抗攻击

    本文提出了一种离散替代方法来解决黑匣子攻击的问题，该方法可以在不需要估计导数的情况下有效地攻击神经网络，降低了之前所提出方法所需的查询次数。

    May, 2019

  • 高效率黑盒对抗样本查询（已被取代）

    本文提出了一种新的方法，利用自然进化策略在黑盒攻击下生成可靠的对抗样本，并通过新的算法在部分信息下进行有针对性的攻击，无需使用梯度，可以使用少量的请求操作，成功地对商业部署的机器学习系统进行了第一次有针对性的攻击。

    Dec, 2017

  • T$_k$ML-AP: 面向 Top-$k$ 多标签学习的对抗攻击

    本文开发新的方法，针对基于 TkML-AP 的图像注释系统，创建了用于攻击的对抗扰动，并基于新型损失函数，明确考虑 top-k 排名关系，对 PASCAL VOC 和 MS COCO 等大规模基准数据集进行实验评估，展示了我们方法在减少最先进的 top-k 多标签学习方法的性能方面的有效性，以应对针对性和非针对性攻击。

    Jul, 2021