攻击生成器：构建对抗性攻击的系统方法

CVPRJun, 2019

攻击生成器：构建对抗性攻击的系统方法

The Attack Generator: A Systematic Approach Towards Constructing Adversarial Attacks

Felix Assion, Peter Schlicht, Florens Greßner, Wiebke Günther, Fabian Hüger...

TL;DR本篇论文阐述了机器学习领域中的敌对攻击，提出了一种名为 “攻击生成器” 的结构化方法并进行了应用于自动驾驶领域的计算机视觉系统语义分割和目标检测阶段的实践研究，然后针对定义捕获的模块进行了攻击生成，证明了该方法的实用性。

Abstract

Most state-of-the-art machine learning (ML) classification systems are vulnerable to adversarial perturbations. As a consequence, adversarial robustness poses a significant challenge for the deployment of ML-based systems in safety- and security-critical environments like autonomous dr

adversarial attacks machine learning adversarial perturbation taxonomy semantic segmentation

发现论文，激发创造

自动对抗性发现用于安全分类器

安全分类器和对抗攻击是在线论坛（如社交媒体和聊天机器人）中减少毒性的关键，然而它们仍然容易受到新兴且数量众多的对抗攻击的影响。本文提出了一种自动对抗发现安全分类器的方法，以在以前未见的伤害维度上寻找新的攻击方法，以揭示分类器的新弱点。我们通过两个主要指标来衡量这个任务的进展（1）对抗成功性：攻击是否欺骗了分类器？（2）维度多样性：攻击是否代表了以前未见的伤害类型？通过对 CivilComments 毒性任务中的现有攻击生成方法进行评估，发现它们存在局限性：词汇扰动攻击无法欺骗分类器，而基于提示的 LLM 攻击具有更高的对抗成功性，但缺乏维度多样性。即使是我们最有效的基于提示的方法，仍然只在攻击的以前未见的伤害维度上成功了 5％的时间。自动发现攻击的新的有害维度至关重要，并且在这个新任务上未来研究有巨大的潜力。

Jun, 2024

对敌对攻击和防御的恶意软件分类调查

这项调查研究针对网络安全中恶意软件分类展示了当前对抗性攻击和防御策略的研究，将方法分类为生成模型、基于特征的方法、集成方法和混合策略，并评估了每个领域的优点和缺点，同时讨论了常用的数据集和评估标准，最后提出了开放性研究难题和未来的研究选项。

Dec, 2023

对抗规避攻击的攻击树分析

该研究提出了一种使用攻击树分析逃避攻击风险的量化评估方法，通过引入深度学习和传统攻击节点来表示逃避攻击的各种特征，并提出了构建攻击树的系统性构建过程，最后通过实验验证了该方法的多功能性和有效性。

Dec, 2023

基于数据的黑盒分类器探索性攻击在对抗领域中的应用

本文提出了一种基于数据推动的黑客攻击方法 —— 基于分类模型的欺骗方法，并通过 Google Cloud Prediction 平台进行了实验验证，发现分类器天生易受攻击，并且可以轻松地进行逃避攻击，这为构建安全的机器学习框架提供了启示。

Mar, 2017

生成（非软件）错误以愚弄分类器

本文提出了生成自然对抗样本的系统化方法，通过一些自然变化来模仿某种对象或信号，结果表明可以在图像分类模型和语音分类模型中成功生成对抗样本。

Nov, 2019

对抗机器学习中的防御措施综述

机器学习系统中的对抗现象给实际应用带来了严重安全威胁，本调查旨在从统一的视角对现有的防御机制进行系统回顾，通过将机器学习系统划分为预训练、训练、后训练、部署和推断等五个阶段，提出明确的分类法，以分析各个防御机制的机制、联系和差异，并激发未来研究开发更先进、全面的防御机制。

Dec, 2023

NAG: 对抗生成网络

本文提出了一种基于生成对抗网络的方法，通过优化骗过分类器的目标和增加多样性的目标训练生成器，从而模拟对抗性扰动的分布，生成多样的对抗性扰动，实现了在各种分类器上实现骗过率最大化，展示出了更好的通用性。

Dec, 2017

IDSGAN: 针对入侵检测的攻击生成的生成对抗网络

本文提出了一种基于生成对抗网络的攻击框架 IDSGAN，用于欺骗和逃避检测来攻击入侵检测系统中的黑匣子攻击，通过针对多个基于算法的检测模型的比较实验，证明了该模型的鲁棒性和有效性。

Sep, 2018

对敌对机器学习的阅读调查：敌对攻击及其理解

深度学习使我们能够高效地训练复杂数据的神经网络。然而，随着研究的增长，神经网络的几个弱点也被曝光。对抗机器学习是一种特定的研究领域，旨在利用和理解导致神经网络因输入接近原始输入而错误分类的一些弱点。提出了一类称为对抗性攻击的算法，用于在不同领域的各种任务上使神经网络错误分类。随着对对抗性攻击的广泛研究，了解对抗性攻击的分类是至关重要的。这将有助于我们以系统性的方式了解弱点，并帮助我们减轻对抗性攻击的影响。本文对现有的对抗性攻击及其不同角度的理解进行了概述，并简要介绍了现有对抗性防御措施及其在减轻对抗性攻击效果方面的局限性。此外，我们讨论了对抗机器学习领域未来研究的方向。

Aug, 2023

机器学习网络中的对抗攻击与防御：当代综述

本文综述了近期深度学习中对于对抗攻击和防御技术的研究进展，聚焦于基于深度神经网络的分类模型，并进行了对攻击和防御方法的分类和评价，其中重点介绍了正则化方法在提高模型的鲁棒性方面的应用。此外，还探索了新型攻击方式，如基于搜索、决策、降维和物理世界攻击，并提出了对于未来研究的建议。

Mar, 2023