Oct, 2019

神经网络对抗鲁棒性的有用分类法

HTML
PDF
TL;DR深度学习领域的对抗攻击和防御是目前研究的活跃领域。本文针对防御方法进行分类，提出了不同的分类方法：通过增加特征向量的类内紧凑性和类间分隔性来提高对抗鲁棒性，减小或移除非鲁棒图像特征来提高对抗鲁棒性。通过这种重新构架话题的方式，提供了新的视角，深入探讨使网络变得更加强健的潜在因素，启发了更多的解决方案。此外，文献中有一些关于对抗防御成本问题和鲁棒性与准确性之间的权衡的论述，但我们提出的分类方法可以解决这些问题。本文提出了几项挑战，以此推动深度学习研究的进一步发展。
发现论文，激发创造
  • 面向对抗攻击具有抵抗能力的深度学习模型

    通过稳健优化方法探究神经网络对抗攻击的鲁棒性，设计出对抗攻击和训练模型的可靠方法，提出对于一阶对手的安全保证，并得到针对广泛对抗攻击的高鲁棒性网络模型。

    Jun, 2017

  • 提高对抗鲁棒性的特征去噪

    本研究旨在通过特征去噪的方式提高卷积神经网络在对抗攻击下的鲁棒性，实验结果表明这种方法对提高白盒和黑盒攻击下的分类准确率具有一定效果。

    Dec, 2018

  • 对抗鲁棒性基准测试

    本研究旨在建立一个全面、严谨、连贯的标准来评估对抗性鲁棒性，通过两个鲁棒性曲线作为公正的评估标准来进行大规模实验，全面掌握攻击与防御方法的表现并得出重要结论和未来研究的启示。

    Dec, 2019

  • 一组不同参数攻击的集成用于可靠评估对抗鲁棒性

    本文提出两个方法以提高PGD攻击的效率，进而结合现有方法构成一个全新的攻击集合，用于测试对抗鲁棒性，并在50多个模型上进行了测试，发现一些已经被攻破的防御机制。

    Mar, 2020

  • 深度学习中对抗鲁棒性的机遇与挑战：综述

    本篇研究通过分类对抗性攻击和防御方法，提出三类半定界数理优化问题，即对抗(再)训练、正则化方法和认证防御，并调查了最近的研究成果和挑战以及展望未来的发展。

    Jul, 2020

  • 对抗性训练中类别稳健性的分析和应用

    本文研究了对抗训练中的类别鲁棒性问题，提出了一种基于温度的PGD攻击方法，并对训练和推断阶段进行了改进，以降低类别鲁棒性差异。实验结果表明，该方法可以取得更高的攻击成功率。

    May, 2021

  • 对抗性严重性的分层评估

    本文介绍了在Adversarial Robustness领域中，量化adversarial noise的影响的新概念——Adversarial Severity，并提出了使用基于Hierarchical Attacks的新型防护方法和Hierarchical Curriculum Training训练方法来提高深度模型的Robustness和减轻所有攻击的severity。实验表明，这种防护方法可以使深度模型的Robustness提高1.85％，平均减少攻击的severity 0.17。

    Aug, 2021

  • 加强对抗性容错性评估的置信度

    该研究提出了一种测试方法以识别弱攻击和防御评估，为了增强透明和信心，将攻击单元测试作为未来强度评估的重要组成部分。

    Jun, 2022

  • 探索稳健特征以提升对抗性鲁棒性

    通过分离鲁棒特征和领域特定特征，我们提出了一个鲁棒特征分离模型，以增强模型的对抗性鲁棒性。同时，训练出的领域鉴别器几乎完美地能够识别出干净图像和对抗性样本中的领域特定特征，从而无需额外的计算成本实现对抗性样本的检测。这样一来，我们可以为干净图像和对抗性样本指定不同的分类器，避免了干净图像准确率的降低。

    Sep, 2023

  • 通过解耦视觉表示遮蔽来提高对抗鲁棒性

    深度神经网络在对抗性例子方面容易受到攻击，针对这一问题，我们提出了一种基于解耦视觉特征掩蔽的简单而有效的防御方法，该方法可以提高鲁棒性，相对于现有的防御方法具有优越性能。

    Jun, 2024