本研究通过使用多个强健度和成功率等措施，在306个模型对之间全面测试了18个ImageNet模型，并揭示了若干新的见解：（1）在分类错误的对数下，经验L2和L∞扭曲度量呈线性比例律；（2）模型架构比模型尺寸更重要；（3）对于相似的网络架构，略微增加网络深度可在L∞扭曲度上提高强健性；（4）存在具有高度敌对可转性的模型，而从一个模型制造的大多数敌对示例仅可以在同一家族内转移。

Aug, 2018

该文章为图像分类器的稳健性建立了严格的基准测试，并提出了两个基准测试 ImageNet-C 和 ImageNet-P，用于评估分类器对常见扰动和干扰的稳健性。研究发现，从 AlexNet 分类器到 ResNet 分类器，相对污染鲁棒性几乎没有变化，而绕过的对抗性防御提供了实质性的常见干扰强度。

Mar, 2019

本研究旨在建立一个全面、严谨、连贯的标准来评估对抗性鲁棒性，通过两个鲁棒性曲线作为公正的评估标准来进行大规模实验，全面掌握攻击与防御方法的表现并得出重要结论和未来研究的启示。

Dec, 2019

从结构的角度改进了神经网络的鲁棒性，提出了一种基于架构参数的约束方式，通过单变量对数正态分布逼近了整个网络的Lipschitz常数，累积函数约束分布参数可满足信赖度要求，结果表明该算法比各种NAS算法搜索的拥有对抗性训练的神经体系结构以及高效的人工设计模型都有更好的表现，对不同数据集进行了多种攻击。

Sep, 2020

本文针对深度神经网络（DNN）易受到对抗攻击的问题，通过对网络结构的宽度和深度进行综合研究，发现更高的模型容量并不一定有助于对抗攻击抵抗力的提高，最后一个阶段降低容量实际上可以提高对抗攻击的鲁棒性，同样的参数预算下，存在一种最佳的结构以提高对抗攻击的鲁棒性，并提供了理论分析，这些架构可帮助进行设计更具对抗攻击鲁棒性的DNN。

Oct, 2021

本文通过针对残差网络的架构设计探究在拓扑结构、深度和宽度等方面的影响，设计了一系列RobustResNets，实验证明该网络在多个数据集和对抗攻击中表现出色，达到了AutoAttack鲁棒准确率的最新记录。

Dec, 2022

本研究通过对DNN体系结构组件进行大规模系统研究，提炼出18个可操作的鲁棒网络设计准则，构建了一系列在参数容量上对抗攻击稳健的模型家族，并介绍了新型Robust Architecture (RobArch)模型的应用。通过我们的实验，RobArch在RobustBench ImageNet排行榜上的AutoAttack准确性达到了新的state-of-the-art。

Jan, 2023

本文研究探讨了寻找更具有鲁棒性的体系结构对于减少深度学习模型在实际应用中对于输入数据微小扰动导致的错误决策的重要性。在评估鲁棒性方面，我们基于NAS-Bench-201进行神经网络架构搜索，对6466种不同的网络设计进行评估并引入数据库，发现对神经网络的拓扑结构进行优化可以显著提高其鲁棒性。

Jun, 2023

我们研究的目标是统一现有作品在架构组件如何影响CNN的对抗鲁棒性方面的分歧意见。为了实现我们的目标，我们综合了三个可推广的鲁棒架构设计原则：(a) 深度和宽度配置的最佳范围，(b) 优先使用卷积而非拼贴块的初始阶段，和 (c) 通过采用挤压和激励块以及非参数平滑激活函数的鲁棒残差块设计。通过在广泛的数据集规模、对抗训练方法、模型参数和网络设计空间上进行大量实验证明，我们的原则始终显著提高 AutoAttack 的准确性：CIFAR-10 和 CIFAR-100 上为 1-3 个百分点 (pp)，ImageNet 上为 4-9 个百分点 (pp)。代码可以公开访问该 URL。

Aug, 2023

最近神经网络架构搜索(NAS)的发展强调考虑恶意数据下的鲁棒性架构的重要性，然而，在搜索这些鲁棒性架构时，尤其是在考虑对抗训练时，缺乏显著的基准评估和理论保证。本文旨在解决这两个挑战，做出了双重贡献：首先，我们发布了一个综合数据集，该数据集包含来自NAS-Bench-201搜索空间在图像数据集上经过对抗训练的网络的干净准确度和鲁棒准确度；其次，利用深度学习理论中的神经切线核(NTK)工具，我们建立了一个关于在干净准确度和鲁棒准确度下搜索架构的泛化理论，该理论适用于多目标对抗训练。我们坚信，我们的基准和理论见解将对NAS社区产生重大影响，通过可靠的再现性、高效的评估和理论基础，特别是在追求鲁棒架构方面。

Mar, 2024