RobustART：建筑设计和训练技术鲁棒性基准测试

Sep, 2021

RobustART：建筑设计和训练技术鲁棒性基准测试

RobustART: Benchmarking Robustness on Architecture Design and Training Techniques

Shiyu Tang, Ruihao Gong, Yan Wang, Aishan Liu, Jiakai Wang...

TL;DR提出了 RobustART，对 ImageNet 的 ARchitecture 设计和 Training 技术进行了全面的稳健性调查基准，验证了对于 Transformer 和 MLP-Mixer，Adversarial 训练在稳健性方面是有效的，CNNs > Transformers > MLP-Mixers 在稳健性方面表现更好，RobustART 为深入了解设计强大的 DNNs 机制提供了新的视角。

Abstract

deep neural networks (DNNs) are vulnerable to adversarial noises, which motivates the benchmark of model robustness. Existing benchmarks m

deep neural networks adversarial noises model robustness architecture design training techniques

发现论文，激发创造

RobArch：设计抗击恶意攻击的稳健架构

本研究通过对 DNN 体系结构组件进行大规模系统研究，提炼出 18 个可操作的鲁棒网络设计准则，构建了一系列在参数容量上对抗攻击稳健的模型家族，并介绍了新型 Robust Architecture (RobArch) 模型的应用。通过我们的实验，RobArch 在 RobustBench ImageNet 排行榜上的 AutoAttack 准确性达到了新的 state-of-the-art。

Jan, 2023

神经架构设计与鲁棒性：一个数据集

本文研究探讨了寻找更具有鲁棒性的体系结构对于减少深度学习模型在实际应用中对于输入数据微小扰动导致的错误决策的重要性。在评估鲁棒性方面，我们基于 NAS-Bench-201 进行神经网络架构搜索，对 6466 种不同的网络设计进行评估并引入数据库，发现对神经网络的拓扑结构进行优化可以显著提高其鲁棒性。

Jun, 2023

通过神经架构搜索实现准确可靠架构

为了保护深度神经网络免受对抗性攻击，我们提出了 ARNAS 来搜索用于对抗训练的准确且稳健的架构。实验结果表明，所搜索到的架构具有最强的稳健性和具有竞争力的准确性，并打破了基于 NAS 的架构无法在稳健性场景下很好地进行迁移的传统观念。通过分析搜索到的优秀架构，我们还得出结论，准确且稳健的神经网络架构倾向于在输入和输出附近部署不同的结构，这对于手工设计和自动设计准确且稳健的架构具有重要的实际意义。

May, 2024

对抗鲁棒性基准测试

本研究旨在建立一个全面、严谨、连贯的标准来评估对抗性鲁棒性，通过两个鲁棒性曲线作为公正的评估标准来进行大规模实验，全面掌握攻击与防御方法的表现并得出重要结论和未来研究的启示。

Dec, 2019

对抗鲁棒性：神经架构搜索的视角

该研究旨在探寻能否通过神经网络的复杂拓扑结构来提升对抗性鲁棒性能力，其发现表明，基于 NAS 的架构对小规模数据集和简单任务具有更好的鲁棒性能力，而随着数据集规模或任务复杂度的增加，传统手工设计的架构具有更好的鲁棒性能力。

Jul, 2020

DSRNA: 可微分搜索鲁棒神经结构

采用可微分搜索方法搜索出具有鲁棒性的神经网络模型，该模型能够抵御针对神经网络模型的各种攻击手段，本文的实验结果表明，该方法比基准算法具有更高的准确度和更强的鲁棒性。

Dec, 2020

A³D：一个搜索强鲁棒性神经架构和高效对抗攻击的平台

本研究提出一种名为自动对抗攻击与防御（ $A^{3} D$ ）的新平台，通过使用多种神经架构搜索和优化算法，包括考虑四类噪声和评估指标，来搜索具有鲁棒性的神经网络结构，并提供多个优化算法搜索有效的对抗攻击。该平台达到了提高模型鲁棒性的效果，并为自动化机器学习的应用提供了基准和工具。

Mar, 2022

ARBiBench: 评估二值化神经网络的对抗鲁棒性

该研究论文通过对网络二值化进行全面评估，揭示了二值化神经网络在白盒和黑盒攻击下的鲁棒性表现，以及不同网络之间的相似性和应用前景。

Dec, 2023

当 NAS 遇上鲁棒性：寻找对抗攻击的鲁棒架构

通过一次性神经网络结构搜索，研究了对对抗攻击弹性更强的网络结构模式，并基于这些模式提出了一族更具弹性的网络结构 RobNets。这些结构在多个数据集上表现出更优异的弹性表现，即使具有更少的参数数量，在白盒和黑盒攻击下都表现出 5% 的绝对收益。

Nov, 2019

探索对抗鲁棒深度神经网络的架构因素

本文针对深度神经网络（DNN）易受到对抗攻击的问题，通过对网络结构的宽度和深度进行综合研究，发现更高的模型容量并不一定有助于对抗攻击抵抗力的提高，最后一个阶段降低容量实际上可以提高对抗攻击的鲁棒性，同样的参数预算下，存在一种最佳的结构以提高对抗攻击的鲁棒性，并提供了理论分析，这些架构可帮助进行设计更具对抗攻击鲁棒性的 DNN。

Oct, 2021