鲁棒神经架构搜索
为了保护深度神经网络免受对抗性攻击,我们提出了 ARNAS 来搜索用于对抗训练的准确且稳健的架构。实验结果表明,所搜索到的架构具有最强的稳健性和具有竞争力的准确性,并打破了基于 NAS 的架构无法在稳健性场景下很好地进行迁移的传统观念。通过分析搜索到的优秀架构,我们还得出结论,准确且稳健的神经网络架构倾向于在输入和输出附近部署不同的结构,这对于手工设计和自动设计准确且稳健的架构具有重要的实际意义。
May, 2024
我们提出了一种名为 G-RNA 的新型鲁棒神经结构搜索框架,它为消息传递机制提供了一个鲁棒的搜索空间,并定义了一个鲁棒度量来指导搜索过程,可以有效地搜索到最优的鲁棒性较强的 GNN, 在对基准数据集进行的广泛实验结果中,G-RNA 在对抗攻击下优于手动设计的鲁棒性 GNN 和基本的图形 NAS 基线 12.1%至 23.4%。
Apr, 2023
最近神经网络架构搜索 (NAS) 的发展强调考虑恶意数据下的鲁棒性架构的重要性,然而,在搜索这些鲁棒性架构时,尤其是在考虑对抗训练时,缺乏显著的基准评估和理论保证。本文旨在解决这两个挑战,做出了双重贡献:首先,我们发布了一个综合数据集,该数据集包含来自 NAS-Bench-201 搜索空间在图像数据集上经过对抗训练的网络的干净准确度和鲁棒准确度;其次,利用深度学习理论中的神经切线核 (NTK) 工具,我们建立了一个关于在干净准确度和鲁棒准确度下搜索架构的泛化理论,该理论适用于多目标对抗训练。我们坚信,我们的基准和理论见解将对 NAS 社区产生重大影响,通过可靠的再现性、高效的评估和理论基础,特别是在追求鲁棒架构方面。
Mar, 2024
该研究旨在探寻能否通过神经网络的复杂拓扑结构来提升对抗性鲁棒性能力,其发现表明,基于 NAS 的架构对小规模数据集和简单任务具有更好的鲁棒性能力,而随着数据集规模或任务复杂度的增加,传统手工设计的架构具有更好的鲁棒性能力。
Jul, 2020
本文提出了具有可证明收敛保证的生成式对抗网络 NAS (GA-NAS),并基于权重的鉴别器提供的奖励,采用增强学习训练生成器,探索搜寻空间而无需评估大量体系结构,通过三个公共 NAS 基准测试,在多个情况下 GA-NAS 都能打败已发布的最佳结果,同时 GA-NAS 可以处理特定搜寻约束和空间,能用于改进其他 NAS 方法找到的优化基线的 ImageNet 准确性或参数数量。
May, 2021
提出了一种名为 RE-NAS 的神经架构搜索方法,结合了进化算法和强化突变控制,成功地在 CIFAR-10 上发现了可用于图像分类的强大架构 RENASNet,并在移动 ImageNet 上取得了最新的最高准确率。
Aug, 2018
本文提出了一种专为生成对抗网络(GAN)设计的 AdversarialNAS 方法,它是第一种能够同时搜索生成器和鉴别器架构的方法,并且不需要计算任何额外指标以评估搜索架构性能,该方法在 CIFAR-10 上取得了新的最优状态下的 FID 分数 10.87 和高竞争的 Inception Score 8.74,并且也在 STL-10 上取得了新的最优状态下的 FID 分数 26.98 和 Inception Score 9.63。
Dec, 2019
本文提出一种称之为 RankNAS 的性能排名方法,通过配对排名是为了提高神经架构搜索(NAS)的效率,并在机器翻译和语言建模任务中进行了广泛实验,结果表明 RankNAS 可以设计出高性能的架构,同时速度比现有的 NAS 系统快几个数量级。
Sep, 2021