进化鲁棒的神经网络结构抵御对抗性攻击
通过一次性神经网络结构搜索,研究了对对抗攻击弹性更强的网络结构模式,并基于这些模式提出了一族更具弹性的网络结构 RobNets。这些结构在多个数据集上表现出更优异的弹性表现,即使具有更少的参数数量,在白盒和黑盒攻击下都表现出 5% 的绝对收益。
Nov, 2019
为了保护深度神经网络免受对抗性攻击,我们提出了 ARNAS 来搜索用于对抗训练的准确且稳健的架构。实验结果表明,所搜索到的架构具有最强的稳健性和具有竞争力的准确性,并打破了基于 NAS 的架构无法在稳健性场景下很好地进行迁移的传统观念。通过分析搜索到的优秀架构,我们还得出结论,准确且稳健的神经网络架构倾向于在输入和输出附近部署不同的结构,这对于手工设计和自动设计准确且稳健的架构具有重要的实际意义。
May, 2024
本研究通过对 DNN 体系结构组件进行大规模系统研究,提炼出 18 个可操作的鲁棒网络设计准则,构建了一系列在参数容量上对抗攻击稳健的模型家族,并介绍了新型 Robust Architecture (RobArch) 模型的应用。通过我们的实验,RobArch 在 RobustBench ImageNet 排行榜上的 AutoAttack 准确性达到了新的 state-of-the-art。
Jan, 2023
本文研究探讨了寻找更具有鲁棒性的体系结构对于减少深度学习模型在实际应用中对于输入数据微小扰动导致的错误决策的重要性。在评估鲁棒性方面,我们基于 NAS-Bench-201 进行神经网络架构搜索,对 6466 种不同的网络设计进行评估并引入数据库,发现对神经网络的拓扑结构进行优化可以显著提高其鲁棒性。
Jun, 2023
该研究旨在探寻能否通过神经网络的复杂拓扑结构来提升对抗性鲁棒性能力,其发现表明,基于 NAS 的架构对小规模数据集和简单任务具有更好的鲁棒性能力,而随着数据集规模或任务复杂度的增加,传统手工设计的架构具有更好的鲁棒性能力。
Jul, 2020
通过稳健优化方法探究神经网络对抗攻击的鲁棒性,设计出对抗攻击和训练模型的可靠方法,提出对于一阶对手的安全保证,并得到针对广泛对抗攻击的高鲁棒性网络模型。
Jun, 2017
采用可微分搜索方法搜索出具有鲁棒性的神经网络模型,该模型能够抵御针对神经网络模型的各种攻击手段,本文的实验结果表明,该方法比基准算法具有更高的准确度和更强的鲁棒性。
Dec, 2020
通过添加一个用于协作训练的对抗样本检测网络和设计一种新的数据采样策略,我们建议了一个简单的架构来构建具有一定鲁棒性的模型,该模型能够适应许多不同的对抗攻击,并针对 Cifar10 dataset 的实验表明这种设计对模型的鲁棒性具有积极影响。
Apr, 2022
本研究提出了一种新颖的对抗性鲁棒性感知神经体系结构搜索算法 AdvRush,通过采用偏好具有更平滑输入损失平面的候选架构的正则化器,成功地发现了一个对抗性鲁棒的神经体系结构,并在各种基准数据集上进行了大量实验以证明其有效性。
Aug, 2021