本研究提出了一种自监督神经架构搜索 (SSNAS) 方法，使用未标记的数据进行训练，无需使用标签数据即可发现新的网络模型，并在搜索标签数量相对较少时展示了该方法的优势。

Jul, 2020

神经网络、深度学习、神经架构搜索、数据集、NAS 挑战是研究论文的关键词，该论文介绍了为一系列 NAS 挑战创建的八个数据集，以及使用标准深度学习方法和挑战参与者的最佳结果进行的实验。

Apr, 2024

该文提出了一种基于自监督神经结构搜索技术的框架，用于处理非平衡数据集的情况，每个组件都能在资源受限的设备上（如单个 GPU）运行，实验结果表明该方法在 CIFAR-10 数据集上的性能比标准神经网络更佳，同时使用的参数少 27 倍。

Sep, 2021

本文旨在解决将神经架构搜索（NAS）算法，特别是可微架构搜索（DARTS），应用于类别分布高度不平衡的长尾数据集的挑战。我们观察到，传统的重新采样和重新加权技术，在与 DARTS 结合时会导致性能下降。为了缓解这一问题，我们提出了一种新颖的自适应学习率调度策略，针对与双边分支网络（BBN）相结合处理不平衡数据集的 DARTS 架构参数。我们的方法根据训练时期动态调整架构参数的学习率，以防止在训练的后期阶段破坏良好训练的表示。此外，我们还探讨了分支混合因子对算法性能的影响。通过在人工引发的长尾分布的 CIFAR-10 数据集上进行大量实验证明，我们的方法的准确率与仅使用 DARTS 相当。实验结果表明，重新采样方法本质上会损害 DARTS 算法的性能。我们的研究结果强调了在应用 DNAS 于不平衡学习场景中进行数据增强的重要性。

Jun, 2024

本文提出了一种基于 DARTS 和最先进的增量学习策略的增量学习强基准方法，并将架构搜索的思想扩展到正则化架构遗忘，从而在 RF 信号和图像分类任务中实现性能的显著提升，取得了比现有方法高出 10％的结果。

May, 2022

该研究论文提出了一种新的可微分架构搜索方法，通过分布学习问题来加以实现，并将连续松弛的架构混合权重视为随机变量，以 Dirichlet 分布进行建模，通过路径导数优化 Dirichlet 参数，并采用渐进学习方案消除了不同 iable NAS 的大内存消耗，在 CIFAR-10、ImageNet 和 NAS-Bench-201 等几个数据集上取得了最先进的结果。

Jun, 2020

本文以深度预训练神经网络为基础，探究如何通过数据恢复技术以及自主生成的语义与多样性丰富的合成数据，实现在保护隐私，避免偏见等现实场景下，无需使用原始训练数据进行神经结构搜索的可行性和效果，并发现合成数据的神经结构搜索表现不亚于以往使用原始数据的搜索结果。

Dec, 2021

通过考虑模型准确性、公平性和硬件部署效率，本文提出一种基于大型语言模型的神经架构搜索框架 FL-NAS，并通过实验证明，FL-NAS 在几乎所有设计考虑因素上都能找到高性能的深度神经网络，超越了现有技术成果。

Feb, 2024

过去十年，深度学习的发展在计算机视觉、自然语言理解、语音识别和强化学习等多个领域取得了重大突破。神经架构搜索是自动化机器学习的必然发展方向，已经在很多任务上超过了最好的人类设计架构。本文概述不同的搜索空间、算法和加速技术，并介绍了基准、最佳实践、其他综述和开放源代码库。

Jan, 2023

本研究针对 DARTS 的性能崩溃问题，提出采用更全局的优化方案，以更好地探索神经结构搜索空间，从而发现测试性能更佳、参数更少的神经网络架构。

Apr, 2021