Jan, 2024

CARE：面向安全应用的集成对抗鲁棒性评估与自适应攻击者

HTML
PDF
TL;DR提出了一种名为Cybersecurity Adversarial Robustness Evaluation（CARE）平台来全面评估集成对抗性攻击和防御的方法，旨在探讨集成防御是否能够提高模型性能和鲁棒性，对不同类型的攻击有效，并抵御不断调整的自适应攻击。
发现论文，激发创造
  • 通过促进集成多样性来提高对抗鲁棒性

    该论文提出了一种新的方法，通过探索个体网络之间的交互来提高集成模型的抗干扰性，通过定义一种新的集成多样性的概念来在对抗性情境中促进网络多样性，并演示了一种适应性的多样性促进正则化器，以提高集成的鲁棒性。该方法在各种数据集上取得了良好的实验效果，同时保持了在正常情况下达到最新水平的精度。

    Jan, 2019

  • 评估对抗鲁棒性

    本文介绍了针对对抗样本进行防御的困难性，提出了新的方法来评估防御方法的效果并建议研究者和读者使用这些方法以避免常见陷阱。

    Feb, 2019

  • 关于对抗性样本防御的自适应攻击

    本文探讨了13种已在相关会议上发表的对抗性防御方法对抗自适应攻击方法的实验结果，发现这些方法在实际运用中并不完善，因此提出了一种可行的自适应攻击方法，希望能够为研究更为健壮的防御模型提供指导。

    Feb, 2020

  • 在对抗性环境下重新审视集成: 提高自然精度

    为了提高深度学习模型在实际应用中对小型对抗扰动的抵抗力和非恶意输入的准确性，我们考虑了一些集成方法，关键洞见在于训练模型以抵御小型攻击的模型在集成时可以承受更大的攻击，并且可以通过这个概念来优化自然准确性。我们考虑了两种方案，一种是从几个随机初始化的强韧模型中组合预测，另一种则是将强韧模型和标准模型的特征进行融合。

    Feb, 2020

  • 一组不同参数攻击的集成用于可靠评估对抗鲁棒性

    本文提出两个方法以提高PGD攻击的效率，进而结合现有方法构成一个全新的攻击集合，用于测试对抗鲁棒性，并在50多个模型上进行了测试，发现一些已经被攻破的防御机制。

    Mar, 2020

  • 鲁棒性的来源在哪里？基于转换的集成防御研究

    通过研究变换式集成防御在图像分类中的有效性和原因，本文设计两种自适应攻击方法，揭示了对抗样本传递性的存在，变换式集成防御的鲁棒性收益受到限制，而这种限制主要来自于不可逆变换而非模型集成。

    Sep, 2020

  • 一个标准的对抗鲁棒性基准测试RobustBench

    为了建立标准化的对抗性鲁棒性基准，我们考虑了图片分类任务，并引入了允许的模型限制，使用 AutoAttack 进行评估，同时提供80多种鲁棒模型的开源库，分析了鲁棒性对分布偏移、平滑性等性能的影响。

    Oct, 2020

  • 评估自适应测试时间防御的对抗鲁棒性

    我们对自适应防御策略进行了分类并评估了最新的代表性方法，结果表明在图像分类中这些自适应防御策略没有明显的提高静态防御的水平，同时增加了推理计算。然而，我们仍相信自适应的防御策略是一个有前途的研究方向，并提出了具体的研究建议和评估步骤扩展了Carlini等人的清单。

    Feb, 2022

  • 通过自适应自动攻击实现对对抗鲁棒性的实用评估

    本文提出一种名为自适应自动攻击 (Adaptive Auto Attack) 的对抗攻击防御评估方法，旨在提高测试时训练的效率和可靠性，通过自适应的初始化和在线统计抛弃策略，使其消耗远少于现有方法的迭代数，并在广泛使用的防御模型上表现出更低的鲁棒性。

    Mar, 2022

  • 理解和改进集成对抗防御

    通过理论和实验证明集成对抗性防御能够提高效果，提出了一种新的相互作用全球对抗性训练方法，能够通过分配规则和正则化改进集成对抗性防御，提高模型性能。

    Oct, 2023