ICMLJun, 2021

K-shot NAS: 带 K-shot 超网让 NAS 的权重共享可学习

PDF
TL;DR本文提出了一种基于 K-shot supernets 和 simplex-net 的 NAS 方法，可以自适应地学习权重共享，以获得更好的评估结果。实验结果表明，K-shot NAS 显著提高了路径的评估精度，并带来了令人印象深刻的性能提升。
one-shot weight sharingnask-shot supernetssimplex-netevaluation results
发现论文，激发创造
  • 少样本神经架构搜索

    该研究提出了 few-shot NAS，利用多个超级网络（称为子超级网络）覆盖搜索空间的不同区域，以缓解操作之间的不良共适应，并证明其在多项任务中能够显著提高各种一次性方法的准确性，包括在 NasBench-201 和 NasBench1-shot-1 上的 3 个不同任务中的 4 个基于梯度的和 6 个基于搜索的方法，并在 ImageNet、CIFAR10 和 Auto-GAN 上取得最新水平。

    Jun, 2020

  • Supernet 如何帮助神经架构搜索？

    该研究分析了五个搜索空间，研究发现权重共享在某些搜索空间中效果良好但在其他搜索空间中效果不佳，进一步揭示了这种现象的偏见因素和权重共享的能力。

    Oct, 2020

  • 通过概率变化改进一次性 NAS 的 ShiftNAS

    本文提出 ShiftNAS，一种基于子网复杂度调整采样概率的方法，通过训练可以直接获取给定计算复杂度所需的最佳模型架构和参数，实验结果表明 ShiftNAS 可以在不增加额外消耗的情况下提高 One-shot NAS 的性能。

    Jul, 2023

  • NAS-Bench-1Shot1: 一次性神经架构搜索的基准测试和解剖

    本文提出了一个通用框架，用于一次性神经架构搜索，并引入了一个基于最近推出的大规模表格基准 NAS-Bench-101 的基准测试框架，以评估一次性 NAS 方法的廉价性能，并比较了几种最先进的一次性 NAS 方法，检查它们对超参数的敏感性，以及如何通过调整它们的超参数来改进它们的性能，并将它们的性能与 NAS-Bench-101 的黑盒优化器进行比较。

    Jan, 2020

  • 基于梯度匹配的 Few-Shot NAS 泛化

    该研究提出了一种基于梯度匹配得分的 Few-Shot NAS 方法，通过对多个超网进行边级分区来减小权重共享带来的误差，极大地减少了搜索成本，并在各种数据集、搜索算法下展开的广泛实证评估表明，该方法在搜索效果方面有明显的提高。

    Mar, 2022

  • 混合超网络：通过架构路由的专家混合改进权重共享超网络训练

    本文提出一种新的神经结构搜索方法，即混合超网，通过引入专家混合，提供了更加专业的模型选择，并通过路由机制调整各子网络的权重，有效提高了超网模型的性能，实验表明该方法在机器翻译和 BERT 模型中均取得了优异的性能。

    Jun, 2023

  • 深入探究神经架构搜索中的权重共享

    本文探究权重共享对神经架构搜索的影响，发现权重共享导致模型表现差异显著，同时也可以从共享权重的超级神经网络中提取有价值的信息，并提出适度减少权重共享的方法来减少差异性并提高性能。

    Jan, 2020

  • 单路径统一采样一次性神经网络结构搜索

    本文介绍了一种使用简化的超网络进行单路径神经架构搜索的方法，该方法易于训练、快速搜索、灵活支持不同的搜索约束，并在大规模数据集 ImageNet 上实现了最先进的性能。

    Mar, 2019

  • FairNAS: 重新思考共享权重神经架构搜索的评估公正性

    探究神经网络结构搜索中候选模型评估的公平性问题，提出预期公平和严格公平两种约束方法，其通过公平的训练方式得到的一次性神经网络与多目标进化搜索算法相结合，可以获得最先进的模型。其中 FairNAS-A 模型在 ImageNet 数据集上获得了 77.5% 的 top-1 验证准确率。

    Jul, 2019

  • 共享权重神经架构搜索：缩小优化差距的战斗

    本文介绍了神经体系结构搜索中的共享权重方法，并提出了其最大的挑战在于超网络与子体系结构之间的优化差距。同时，根据不同的方法来弥合这个差距，分析了这些方法的优劣。最后，就 NAS 和 AutoML 的未来方向提出了作者的观点。

    Aug, 2020