search spaces | BriefGPT - AI 论文速递

关键词search spaces

搜索结果 - 10

LISSNAS: 基于局部性的迭代搜索空间缩减的神经架构搜索
我们提出了 LISSNAS，一种自动算法，它将一个大空间缩小为一个多样化的小搜索空间，具有 SOTA 的搜索性能。我们展示了我们的方法在不同大小和数据集范围的搜索空间上的效果，并在两个不同的搜索空间中实现了最佳的 Top-1 准确率。在移动
PDFa year ago
1000 篇论文中的神经架构搜索 Insights
过去十年，深度学习的发展在计算机视觉、自然语言理解、语音识别和强化学习等多个领域取得了重大突破。神经架构搜索是自动化机器学习的必然发展方向，已经在很多任务上超过了最好的人类设计架构。本文概述不同的搜索空间、算法和加速技术，并介绍了基准、最佳
PDFa year ago
特征预测搜索空间特征的分析
本文通过风景分析为基础的一组特征，运用最著名的机器学习方法来决定最佳特征集，以处理问题复杂性并在跨领域之间传递经验。然而，为了确保特征集的代表性，特征的选择至关重要，因此提出的方法分析了一组特征的预测能力以确定最佳分类。
PDF2 years ago
朝着更少限制的宏观神经架构搜索
本文提出了一种名为 LCMNAS 的方法，它能够在非约束搜索空间条件下执行宏搜索，同时不依赖于预定义的启发式算法或范围限制，并引入三个组成部分来推动神经架构搜索方向的发展：利用有关广泛应用架构的信息，自主生成基于具有隐藏属性的加权有向图的复
PDF2 years ago
ICLRNAS-Bench-Suite: NAS 评估 (现在) 非常简单
本文分析了 25 种不同的搜索空间和数据集中流行的 NAS 算法和性能预测方法，发现从少数 NAS 基准得出的许多结论不适用于其他基准。因此，我们推出了 NAS-Bench-Suite，这是一套全面可扩展的 NAS 基准，通过统一接口访问，
PDF2 years ago
神经模型训练的搜索空间
研究神经模型的训练过程中添加权重对搜索空间的影响，提出通过增加搜索空间来训练稀疏模型，以在多个深度学习任务中达到竞争性分数并提高硬件的利用率，鼓励超越当前使用的大型神经模型的研究。
PDF3 years ago
ICLRSupernet 如何帮助神经架构搜索？
该研究分析了五个搜索空间，研究发现权重共享在某些搜索空间中效果良好但在其他搜索空间中效果不佳，进一步揭示了这种现象的偏见因素和权重共享的能力。
PDF4 years ago
ICLRNATS-Bench：评估 NAS 算法，针对架构拓扑和大小
本文提出了一个统一的基准模型 NATS-Bench 用于 Neural architecture search 领域中的拓扑结构与模型大小寻优，该模型具有可比性且可以更加节省计算成本，为研究者提供了更广阔的发展空间。
PDF4 years ago
ICLRAutoHAS: 高效的超参数和架构搜索
本文提出了一种统一的管道，AutoHAS，以高效搜索架构和超参数，该管道可以更新共享网络权重和强化学习 (RL) 控制器来学习架构候选项和超参数候选项的概率分布，可以有效地提高具有不同搜索空间和数据集的网络的准确性。
PDF4 years ago
卷积网络的神经结构搜索简介
本文介绍了神经架构搜索的基本概念以及搜索空间、算法和评估技术的主要进展。
PDF4 years ago