Jan, 2020

ATHENA：基于多样弱防御的框架用于构建对抗性防御

PDF
TL;DR提出了一种面向攻击的通用防御框架 ATHENA，采用弱防御的多样性设计原则，通过多种实现在零知识、黑盒、灰盒和白盒四种威胁模型下的评估，证明其高效并具有可扩展性，同时也说明了其高效性的原因和相关开销。
adversarial attacksathenadefense frameworkdiversityoverhead costs
发现论文，激发创造
  • MULDEF: 多模型防御神经网络的对抗性样本

    提出了基于多模型的鲁棒性多样性的新型防御方法 MulDef，通过构建模型家族实现鲁棒性多样性，该方法在白盒攻击方案中可以在保持类似准确率的情况下，将目标模型对抗性样本的准确率提高 22-74％。

    Aug, 2018

  • Ares: 面向系统的对抗性机器学习博弈框架

    本文介绍了一种评估对抗性机器学习的框架 ——Ares，它将进攻者和防御者视为具有对立目标的两个强化学习环境中的智能体，允许引入时间到故障的系统级评估指标，同时评估复杂策略，初步实验发现以白盒进攻者为代表的对手对于经过对抗训练的防御者较为困难。

    Oct, 2022

  • 对抗样本防御：弱防御的集成无法变强

    本文探讨多种防御手段组成的强防御系统在防御神经网络对抗性样本方面的效果，研究表明仅靠多种弱防御手段的组合并不能提供强大的对抗性样本防御能力。

    Jun, 2017

  • 博弈论混合专家在组合对抗机器学习中的应用

    本文提供了一种博弈论框架，旨在找到防御者在面对攻击者使用组合性对抗性攻击时的 Mixed-Nash 策略，该框架创造了一组拥有更大鲁棒性的防御措施，相比于多个最先进的单模型防御措施和概率分布均匀的组合防御措施，并且在行业中推进对组合攻击和防御公式的新见解。

    Nov, 2022

  • 倡导采用多个防御策略对抗对抗性示例

    本文通过几何分析和数值实验，探讨防御机制在保护神经网络免受 $\ell_2$ 对抗样本攻击效果不佳的问题，并评估已有的混合防御策略对于对抗样本攻击的现实意义和潜在问题。

    Dec, 2020

  • 对抗机器学习中的防御措施综述

    机器学习系统中的对抗现象给实际应用带来了严重安全威胁，本调查旨在从统一的视角对现有的防御机制进行系统回顾，通过将机器学习系统划分为预训练、训练、后训练、部署和推断等五个阶段，提出明确的分类法，以分析各个防御机制的机制、联系和差异，并激发未来研究开发更先进、全面的防御机制。

    Dec, 2023

  • 图像识别上的对抗攻击多用途防御

    在这篇论文中，提出了一种多功能的防御方法，只需要训练一个模型就能有效抵抗各种未知的对抗性攻击，并且该模型的分类准确率平均提高至 86%，表现比之前研究中提出的其他防御方法更好。在面对 PGD 攻击和 MI-FGSM 攻击时，多功能防御模型甚至超过了基于这两种攻击训练的特定攻击模型，并且鲁棒性检查显示我们的多功能防御模型在攻击强度下表现稳定。

    Mar, 2024

  • 评估自适应测试时间防御的对抗鲁棒性

    我们对自适应防御策略进行了分类并评估了最新的代表性方法，结果表明在图像分类中这些自适应防御策略没有明显的提高静态防御的水平，同时增加了推理计算。然而，我们仍相信自适应的防御策略是一个有前途的研究方向，并提出了具体的研究建议和评估步骤扩展了 Carlini 等人的清单。

    Feb, 2022

  • 评估对抗鲁棒性

    本文介绍了针对对抗样本进行防御的困难性，提出了新的方法来评估防御方法的效果并建议研究者和读者使用这些方法以避免常见陷阱。

    Feb, 2019

  • 理解和改进集成对抗防御

    通过理论和实验证明集成对抗性防御能够提高效果，提出了一种新的相互作用全球对抗性训练方法，能够通过分配规则和正则化改进集成对抗性防御，提高模型性能。

    Oct, 2023