MAE-DET: 零样本 NAS 中重新审视最大熵原则的高效物体检测
本文提出了一种名为 DetNAS 的方法,使用神经结构搜索技术来设计用于目标检测的骨干网络,实验证明通过 DetNAS 搜索得到的网络在 COCO 数据集上的性能要优于手工设计的网络。
Mar, 2019
提出了一种分级三元搜索框架,以同时发现物体检测器的所有组件(即主干,neck 和 head)的有效体系结构,在每个对应的子搜索空间上进行端到端的搜索,其中不同的子搜索空间适合不同的组件。
Mar, 2020
提出了联合检测 NAS(Joint-DetNAS),是一种用于目标检测的统一 NAS 框架,同时整合了 3 个关键部分:神经架构搜索、剪枝和知识蒸馏,将它们联合优化,实现了高性能的对象检测。
May, 2021
本研究提出了一种效率高的方法,通过针对自动定位简单无锚对象检测器的 FPN 和预测头部进行搜索,使用定制化的强化学习范式,能够在 4 天内使用 8 个 V100 GPU 找到表现最佳的检测架构,并在 COCO 数据集上超过了 Faster R-CNN,Retina-Net 和 FCOS 等现有模型,AP 提升了 1.0%至 5.4%。
Oct, 2021
本研究使用增强学习范式,通过对特定搜索空间的精心设计和策略,高效地搜索出网络结构,提出了一种优化目标检测模型的神经网络架构搜索方法,并在四天内使用 8 V100 GPUs 在 COCO 数据集上取得比 Faster R-CNN、RetinaNet 和 FCOS 等模型更好的性能,充分展示了该方法的有效性。
Jun, 2019
该论文提出了一种名为 EDNAS 的新型架构,通过多任务学习(MTL)和硬件感知神经架构搜索(NAS)的联合学习,成功地提高了边缘平台上稠密预测的准确性,并通过提出 JAReD 方法降低了输出噪声,并揭示了最佳架构。
Oct, 2022
本文提出了基于参数重映射技术的 Fast Neural Network Adaptation (FNA) 方法,该方法可以将已有的高性能网络结构调整为不同的深度、宽度或内核大小,进而实现更高效的神经架构搜索,该方法在 MobileNetV2 的实验中,通过对现有网络进行 FNA 调整,既可用于目标分割任务又可用于目标检测任务,并且在性能上均超过了手动设计和 NAS 的现有网络设计,且其计算成本明显低于 SOTA 的目标分割 /detection NAS 方法 (DPC、Auto-DeepLab 和 DetNAS)。
Jan, 2020
本文采用经典的贝叶斯学习方法,利用分层自动相关决策(HARD)先验对架构参数进行建模以缓解一次 NAS 方法中存在的两个问题,并成功利用 CIFAR-10 数据集在 0.2 GPU 天内找到了精确的架构,同时通过提供结构稀疏性实现了分类精度极高且极度稀疏的卷积神经网络压缩。
May, 2019
利用深度学习方法提出了一种新的零样本神经架构搜索方法,该方法使用正弦编码的傅里叶和来构建计算前馈图,并通过伴随的多层感知机对架构进行排序。实验证明,该方法在 NAS-Bench-201 数据集上的相关性和收敛速度均超过了先前使用图卷积网络的方法,并且所提取的特征表示经训练后可迁移到其他 NAS-Benchmark,展现了在多个搜索空间中的潜在普适性。
Aug, 2023
利用神经切向核和输入空间中的线性区域数来排名结构,通过 TE-NAS 框架进行训练 - free 的神经体系结构搜索,使用基于剪枝的 NAS 机制进行灵活且优越的权衡,实现在 CIFAR-10 和 ImageNet 上只花费 0.5 和 4 GPU 小时完成的高质量搜索。
Feb, 2021