Mar, 2023

机器学习网络中的对抗攻击与防御：当代综述

PDF
TL;DR本文综述了近期深度学习中对于对抗攻击和防御技术的研究进展，聚焦于基于深度神经网络的分类模型，并进行了对攻击和防御方法的分类和评价，其中重点介绍了正则化方法在提高模型的鲁棒性方面的应用。此外，还探索了新型攻击方式，如基于搜索、决策、降维和物理世界攻击，并提出了对于未来研究的建议。
adversarial attacksdefense techniquesdeep neural networkclassification modelsregularization-based methods
发现论文，激发创造
  • 对敌对机器学习的阅读调查：敌对攻击及其理解

    深度学习使我们能够高效地训练复杂数据的神经网络。然而，随着研究的增长，神经网络的几个弱点也被曝光。对抗机器学习是一种特定的研究领域，旨在利用和理解导致神经网络因输入接近原始输入而错误分类的一些弱点。提出了一类称为对抗性攻击的算法，用于在不同领域的各种任务上使神经网络错误分类。随着对对抗性攻击的广泛研究，了解对抗性攻击的分类是至关重要的。这将有助于我们以系统性的方式了解弱点，并帮助我们减轻对抗性攻击的影响。本文对现有的对抗性攻击及其不同角度的理解进行了概述，并简要介绍了现有对抗性防御措施及其在减轻对抗性攻击效果方面的局限性。此外，我们讨论了对抗机器学习领域未来研究的方向。

    Aug, 2023

  • 对抗攻击与防御：一项调查

    文章讨论了不同类型的威胁模型下的敌对攻击，以及近期对抗这些攻击的有效方法和挑战，以提高深度学习算法的鲁棒性。

    Sep, 2018

  • 对抗机器学习中的防御措施综述

    机器学习系统中的对抗现象给实际应用带来了严重安全威胁，本调查旨在从统一的视角对现有的防御机制进行系统回顾，通过将机器学习系统划分为预训练、训练、后训练、部署和推断等五个阶段，提出明确的分类法，以分析各个防御机制的机制、联系和差异，并激发未来研究开发更先进、全面的防御机制。

    Dec, 2023

  • 对敌对攻击和防御的恶意软件分类调查

    这项调查研究针对网络安全中恶意软件分类展示了当前对抗性攻击和防御策略的研究，将方法分类为生成模型、基于特征的方法、集成方法和混合策略，并评估了每个领域的优点和缺点，同时讨论了常用的数据集和评估标准，最后提出了开放性研究难题和未来的研究选项。

    Dec, 2023

  • 图像分类中的对抗机器学习：从防御者的视角进行调查

    这篇论文探讨了深度学习在图像分类中的安全问题，介绍了针对对抗攻击和对抗防御的新分类方法，提供了研究者需要考虑的相关指导，并讨论了未来研究的方向。

    Sep, 2020

  • 自然语言处理中对抗性防御和鲁棒性的调查

    综述了最近几年针对 NLP 中深度神经网络面对对抗干扰的鲁棒性不足和易受攻击的挑战，提出了一种新的分类方法，介绍了不同的对抗防御方法和其在训练中作为正则化机制的应用，并指出了深度神经网络的脆弱性和对其进行防御面临的挑战。

    Mar, 2022

  • 图数据的对抗攻击与防御综述

    本文综述了 100 多篇关于图数据中深度神经网络的对抗攻击和防御策略的研究，提出了一个包括大多数图对抗性学习模型的统一公式，并比较了不同的图攻击和防御，总结了评估指标、数据集和未来的趋势。

    Dec, 2018

  • 深度学习如何看世界：对抗攻击和防御调查

    本文总结了最新的对抗攻击技术，利用现代防御策略对其进行分类，并概述视觉转换进展、反对抗设置中使用的数据集及度量标准，并在不同攻击下比较最新成果，最终确定了该领域的开放问题。

    May, 2023

  • 图像、图表和文本中的对抗攻击和防御：一项综述

    本文综述了目前三种最常见的数据类型（图片、图表和文本）中，针对深度神经网络的攻击和防御机制，并评估了相应的对策的成功度。

    Sep, 2019

  • 计算机视觉中深度学习对抗攻击威胁综述

    本文综述了计算机视觉领域深度学习中的对抗攻击及其防御方法，包括攻击的设计、存在性和实际应用的评估，旨在提供更全面的研究方向展望及其实际意义。

    Jan, 2018