ICMLFeb, 2022

评估自适应测试时间防御的对抗鲁棒性

PDF
TL;DR我们对自适应防御策略进行了分类并评估了最新的代表性方法，结果表明在图像分类中这些自适应防御策略没有明显的提高静态防御的水平，同时增加了推理计算。然而，我们仍相信自适应的防御策略是一个有前途的研究方向，并提出了具体的研究建议和评估步骤扩展了 Carlini 等人的清单。
adaptive defensestest-time defensesadversarial robustnessimage classificationevaluation
发现论文，激发创造
  • 关于对抗性样本防御的自适应攻击

    本文探讨了 13 种已在相关会议上发表的对抗性防御方法对抗自适应攻击方法的实验结果，发现这些方法在实际运用中并不完善，因此提出了一种可行的自适应攻击方法，希望能够为研究更为健壮的防御模型提供指导。

    Feb, 2020

  • 快速自适应的测试时间防御与鲁棒特征

    通过投影训练模型到最稳健的特征空间，降低对非稳健方向的敌对攻击的脆弱性，提出一种容易与任何（稳健）训练过程集成的新颖自适应测试防御策略。

    Jul, 2023

  • 评估对抗鲁棒性

    本文介绍了针对对抗样本进行防御的困难性，提出了新的方法来评估防御方法的效果并建议研究者和读者使用这些方法以避免常见陷阱。

    Feb, 2019

  • 加强对抗性容错性评估的置信度

    该研究提出了一种测试方法以识别弱攻击和防御评估，为了增强透明和信心，将攻击单元测试作为未来强度评估的重要组成部分。

    Jun, 2022

  • 对抗马尔可夫博弈：关于自适应基于决策的攻击与防御

    通过理论和实证研究，我们解决自适应对手提出的挑战，并开发自适应防御策略，从而确定在部署在现实世界中的基于机器学习的系统中确保鲁棒性的有效方法。

    Dec, 2023

  • 对抗鲁棒性基准测试

    本研究旨在建立一个全面、严谨、连贯的标准来评估对抗性鲁棒性，通过两个鲁棒性曲线作为公正的评估标准来进行大规模实验，全面掌握攻击与防御方法的表现并得出重要结论和未来研究的启示。

    Dec, 2019

  • 统计分类中的对抗学习：对抗攻击防御综述

    该论文对敌对学习进行了现代综述，重点关注了对统计分类器攻击的防御，并对最近关于测试时间逃避，数据污染和反向工程攻击以及对策进行了综述，最后提出了一些未解决问题和未来工作方向。

    Apr, 2019

  • 通过自适应自动攻击实现对对抗鲁棒性的实用评估

    本文提出一种名为自适应自动攻击 (Adaptive Auto Attack) 的对抗攻击防御评估方法，旨在提高测试时训练的效率和可靠性，通过自适应的初始化和在线统计抛弃策略，使其消耗远少于现有方法的迭代数，并在广泛使用的防御模型上表现出更低的鲁棒性。

    Mar, 2022

  • 图像识别上的对抗攻击多用途防御

    在这篇论文中，提出了一种多功能的防御方法，只需要训练一个模型就能有效抵抗各种未知的对抗性攻击，并且该模型的分类准确率平均提高至 86%，表现比之前研究中提出的其他防御方法更好。在面对 PGD 攻击和 MI-FGSM 攻击时，多功能防御模型甚至超过了基于这两种攻击训练的特定攻击模型，并且鲁棒性检查显示我们的多功能防御模型在攻击强度下表现稳定。

    Mar, 2024

  • 评估文档图像分类的对抗鲁棒性

    本文探讨了针对文档和自然数据的对抗攻击方法，并通过对 ResNet50 和 EfficientNetB0 模型架构的对抗训练、JPEG input 压缩和灰度输入变换等方法的研究， 对文件图像分类任务中这些攻击的影响进行了评估。

    Apr, 2023