Prior neural architecture search (NAS) for adversarial robustness works have
discovered that a lightweight and adversarially robust neural network
architecture could exist in a non-robust large teacher network, g
为了保护深度神经网络免受对抗性攻击,我们提出了 ARNAS 来搜索用于对抗训练的准确且稳健的架构。实验结果表明,所搜索到的架构具有最强的稳健性和具有竞争力的准确性,并打破了基于 NAS 的架构无法在稳健性场景下很好地进行迁移的传统观念。通过分析搜索到的优秀架构,我们还得出结论,准确且稳健的神经网络架构倾向于在输入和输出附近部署不同的结构,这对于手工设计和自动设计准确且稳健的架构具有重要的实际意义。
在这篇文章中,我们提出了一种新颖的轻量级鲁棒性零成本代理,该代理考虑了初始化状态下干净和扰动图像的特征、参数和梯度的一致性,从而实现了能够学习在多种扰动情况下显示出鲁棒性的神经结构的高效快速搜索。 针对多个基准数据集和不同搜索空间,我们的代理能够快速有效地搜索出一致鲁棒的神经结构,大大优于现有的基于清晰无注入 NAS 和基于注入 NAS 减少的搜索成本。