可变复合语义扰动的多目标演化搜索

Jul, 2023

可变复合语义扰动的多目标演化搜索

Multi-objective Evolutionary Search of Variable-length Composite Semantic Perturbations

Jialiang Suna, Wen Yao, Tingsong Jianga, Xiaoqian Chena

TL;DR为了构建更加强健的深度神经网络，本文提出了一种多目标进化搜索可变长度复合语义扰动的新方法，并在 CIFAR10 和 ImageNet 数据集上进行了实验，结果表明相较于传统方法，该方法可以以更短的时间成本获得更自然、攻击成功率更高的对抗样本。

Abstract

deep neural networks have proven to be vulnerable to adversarial attacks in the form of adding specific perturbations on images to make wrong outputs. Designing stronger adversarial attack methods can help more r

deep neural networks adversarial attacks auto machine learning semantic perturbations multi-objective evolutionary search

发现论文，激发创造

一种多目标模因算法用于自动对抗攻击优化设计

本文介绍了一种基于多目标蚁群算法的自动对抗攻击优化设计方法，其搜索空间不仅包括攻击者操作、幅度、迭代次数、损失函数，还包括多种对抗攻击连接方式，实现了对防御模型的近最优自动搜索，有效提高了深度学习模型对抗攻击的鲁棒性。

Aug, 2022

通过特征操纵生成语义对抗样本

本文提出了一种实用的针对深度神经网络的对抗攻击方法，通过语义意义感知的结构化扰动来操纵图像的语义属性，以此生成针对黑盒分类器的对抗扰动，并提出了两种无监督的语义操作方法，通过在潜在空间中扰动单个或多个潜在因素，并在真实图像数据上进行大量实验，证明了其能力的强大性，同时也论证了普适于所有图像的语义对抗样本的存在。

Jan, 2020

语义扰动下的互模态对抗攻击

我们提出了一种新的方法，在互模态优化方案中生成对抗性攻击，利用预训练的 CLIP 模型进行视觉攻击和文本防御，并通过迭代训练策略实现攻击的转移性。我们的方法在多个基准数据集上得到了验证，表明我们的互模态攻击策略能够有效产生高可转移攻击，并且优于最先进的攻击方法，可作为即插即用解决方案。

Dec, 2023

迈向组合性对抗性鲁棒性：将对抗性训练推广到复合语义扰动

本文提出了一种新的生成组合对抗样本的方法和一种广义对抗训练方法，能够实现模型对多种组合语义扰动的鲁棒性，包括色调、饱和度、亮度、对比度和旋转等，并在 ImageNet 和 CIFAR-10 数据集上具有显著性能优势。

Feb, 2022

抵御语义保护的对抗性攻击的鲁棒深度学习模型

本文使用语义保持的敌对攻击机制（SPA 攻击）研究了深度学习模型对联合扰动的鲁棒性，使用属性调节器生成自然可理解的扰动并使用噪声生成器生成不同敌对噪声，并结合此类扰动来生成联合扰动样本以用于深度学习模型的鲁棒性训练。实验结果表明，SPA 攻击会使性能下降，并且优于现有的防御方法。

Apr, 2023

通过语义操纵生成无限制对抗性样本

通过引入语义感知扰动来生成有效和逼真的对抗性样本，该方法在复杂数据集（如 ImageNet 和 MSCOCO）上针对图像分类和图像字幕任务进行了有效应用，且经综合用户研究证明其较其他攻击更为逼真。

Apr, 2019

SemanticAdv: 基于属性条件图像编辑的生成对抗样本方法

本研究旨在探索语义干扰对深度神经网络预测结果的影响，并通过提出的算法 SemanticAdv 来生成对各种 “对抗性” 目标偏离的扰动，从而欺骗深度神经网络。实验结果表明，具有控制语义干扰的对抗性例子不仅可以迷惑不同的学习任务，还可以对抗基于迁移的真实世界黑盒服务。

Jun, 2019

针对黑盒深度学习模型的高效决策稀疏攻击

本文针对深度学习模型的脆弱性与展开的攻击方式，研究了基于模型决策的稀疏攻击，提出了 SparseEvo 算法，并将其应用于卷积深度神经网络和视觉 Transformer 等模型上进行评估。SparseEvo 与之前的算法相比具有更高的攻击效率，但仍需要进一步探究，以增强模型安全性。

Jan, 2022

SADA：自主应用程序语义对抗性诊断攻击

为了解决深度神经网络的鲁棒性问题，文中提出了一种针对训练代理的通用框架，覆盖了对代理环境进行语义扰动和像素级攻击的情况，主要针对自主导航的几个方面，BBGAN 攻击可以生成一致愚弄训练代理的失败案例。

Dec, 2018

神经进化方法的对抗鲁棒性评估

本文针对 CIFAR-10 图像分类任务，评估两种著名的神经进化算法（DENSER 和 NSGA-Net）找到的模型的对抗鲁棒性，结果表明，当这些模型遭受迭代攻击时，它们的精度通常会降至或接近零，而 DENSER 模型则对 L2 威胁模型表现出一定的抵御力，同时观察发现，对输入数据进行的一些预处理技术可能会加剧扰动，从而危害网络的性能。因此，自动设计网络时不应忽视这种影响，尤其是在容易受到对抗攻击的应用程序中。

Jul, 2022