ICMLJun, 2021

iDARTS: 随机隐式梯度可微架构搜索

PDF
TL;DR本文提出了一种基于内部权重和外部架构参数的梯度优化的不同 iable ARchiTecture Search (DARTS) 方法，该方法只依赖于内环优化所得到的解，并省略了优化路径。同时，我们提出了 iDARTS 方法来进一步减少计算要求，理论上表明该方法的架构优化预期收敛于一个稳态点。实验结果表明，我们提出的方法领先于基线方法，获得了最优的神经网络结构.
发现论文，激发创造
  • 让可微架构搜索更少局部化

    本研究针对 DARTS 的性能崩溃问题，提出采用更全局的优化方案，以更好地探索神经结构搜索空间，从而发现测试性能更佳、参数更少的神经网络架构。

    Apr, 2021

  • sharpDARTS: 更快更准确的可微架构搜索

    借助 Differentiable Architecture Search，本研究提出了 sharpDARTS 搜索方式，该方式在 CIFAR-10 数据集上取得了相对错误率 20-30% 的进展，并在模型大小相似的情况下创下了目前最先进的 1.93% 的验证误差和 25.1% 的 ImageNet top-1 误差，同时，通过 Differentiable Hyperparameter Grid Search 和 HyperCuboid 搜索空间的设计和优化，本研究也证明了 sharpDARTS 更具通用性，提出了 Max-W 正则化以解决 DARTS 在新领域中的泛化问题。

    Mar, 2019

  • Progressive DARTS: 在野外框架中弥合 NAS 的优化差距

    本篇论文提出了一种名为 P-DARTS 的算法来解决神经网络架构搜索中的 transfer learning 问题，并在 CIFAR10 数据集以及几个目标问题（包括 ImageNet 分类，COCO 检测和三个 ReID benchmarks）上实现了更好的性能。

    Dec, 2019

  • 基于扰动正则化的微分可微架构搜索稳定化

    提出一种基于扰动的正则化方法 SmoothDARTS，通过随机平滑或对抗攻击稳定 DARTS-based 方法，能够在四个数据集上提高模型的稳定性和性能，并通过数学证明表明该方法能隐式地规范化验证损失的 Hessian 范数以实现更平滑的损失和更好的性能。

    Feb, 2020

  • Single-DARTS: 实现稳定体系结构搜索

    本文提出 Single-DARTS，通过使用单级优化替换双级优化，显著减轻了性能坍塌，提高了体系结构搜索的稳定性，并在主流搜索空间上实现了最先进的性能。

    Aug, 2021

  • 通过近端迭代实现高效神经网络架构搜索

    本文提出了一种基于纵向梯度下降的可微分神经结构搜索方法（称为 NASP），其通过将搜索过程重新构成为一个优化问题，并在前向和反向传播期间仅允许更新一个操作的约束条件下，以 10 倍于 DARTS 方法的计算时间加速获得高性能的架构。

    May, 2019

  • 可微分架构搜索的理解和稳健性提高

    本文研究了 Differentiable Architecture Search 在新问题上失效的问题，发现了通过添加不同类型的正则化项可以改善其在架构空间中高验证损失曲率区域的性能，提出了几种简单的改进方案，实测表现更加稳健。这些观察结果适用于五种搜索空间，三个图像分类任务，以及稠密回归任务和语言建模任务。

    Sep, 2019

  • ICDARTS：改进循环 DARTS 的稳定性和性能

    这项研究介绍了对 Cyclic DARTS (CDARTS) 的稳定性和泛化能力的改进。我们提出的 ICDARTS 是一种改进的方法，它通过消除评估网络权重对搜索网络权重的依赖，并修改离散化搜索网络的过程，以保留这些操作在最终评估网络中。我们还通过消融研究探索了 ICDARTS 算法和网络模板。最后，我们通过扩展操作集和探索连续搜索单元的其他离散化方法，探索了扩展 ICDARTS 的搜索空间的方法。这些实验得出了具有改进泛化能力的网络，并实现了一种将动态搜索空间纳入 ICDARTS 的新方法。

    Sep, 2023

  • $Λ$-DARTS：通过对单元进行操作选择的协调来缓解性能崩溃

    通过理论和实证分析，发现 DARTS 算法中存在的权值共享框架以及极限收敛点限制了模型最优结构的选择，导致性能严重下降，提出了两个新的正则化项解决了上述问题。

    Oct, 2022

  • 使用调整梯度估计稳定 DARTS 的架构参数

    该文提出 DARTS 算法在神经架构搜索中的优化问题，并提出一种修正的架构梯度估计方法来桥接优化差距，实验结果表明该方法有效提高了搜索稳定性和搜索空间的探索能力。

    Oct, 2019