该研究论文总结了多目标神经架构搜索(MONAS)领域的重要工作,并讨论了神经架构搜索的分类方法、目标函数及其随机性对多目标优化过程的影响,并提出了未来研究的方向。
Jul, 2023
本文提出了一种神经体系结构搜索 (NAS) 框架,用于自动优化大规模设计空间中的神经体系结构,支持 3D 医学图像分割任务,其优化准确度在基准测试数据集上优于人类设计的 3D U-Net,经过优化的体系结构适用于不同的任务。
Jun, 2019
提出了一种基于多目标奖励函数的神经网络架构搜索框架 MONAS,可以用来优化神经网络预测准确率,同时满足功耗等其他重要目标。实验结果表明,与现有技术相比,使用 MONAS 找到的模型可以在计算机视觉应用中获得相当或更好的分类准确性,同时满足功耗等其他重要目标。
Jun, 2018
本文介绍了神经架构搜索的问题,并调研了最近的研究成果。然后,我们深入探讨了两项对 NAS 进行多目标框架扩展的最新进展:MONAS 和 DPP-Net。MONAS 和 DPP-Net 都能够优化精度和设备带入的其他目标,寻找可以在广泛设备上最好部署的神经架构。实验结果显示,MONAS 和 DPP-Net 找到的架构在各种设备上均达到了 Pareto 最优性。
Aug, 2018
本文提出了一种深度多模态神经网络架构搜索(MMnas)框架, 通过使用基于梯度的 NAS 算法,可以高效地学习不同任务的最佳架构,并设计了一个统一的编码器 - 解码器骨干网络,其中每个编码器或解码器块对应于从预定义的操作池中搜索出来的操作,以及面向不同多模态学习任务的特定头部。实验结果表明,MMnasNet 在三个多模态学习任务上显着优于现有的最先进方法,包括视觉问答、图像文本匹配和视觉定位。
Apr, 2020
本文提出了一个双目立体匹配中第一个基于任务特定的人类知识的端对端分层神经架构搜索框架,通过优化整个管道的架构,我们的搜索网络优于所有现有的深度立体匹配结构,在多个基准测试中排名前 1,并在网络规模和推理速度上作出了实质性的改进。
Oct, 2020
本文提出了一种 Multi-Scale NAS 框架,具有从网络主干到单元操作的多尺度搜索空间和多尺度融合能力,采用部分通道连接方案和两步解码方法来提高计算效率,实验结果表明,MS-NAS 在各种分割数据集上优于现有方法,并实现了 0.6-5.4% mIOU 和 0.4-3.5% DSC 的提高,计算资源消耗减少了 18.0-24.9%。
Jul, 2020
通过提出基于任务的端到端的 NAS 方法定义,我们提出了 DSNAS,一个高效的可微分 NAS 框架,不仅可以同时优化架构和参数,而且还可以减少模型训练时间,并在 ImageNet 数据集上达到了与现有方法同等的准确率。
Feb, 2020
本文提出了一种基于深度神经网络结构的鲁棒人脸对齐方法 Deep Alignment Network (DAN),DAN 采用全脸图像进行人脸对齐而非局部补丁,并通过在算法的每个阶段利用地标热图来提供之前阶段的视觉信息,从而使 DAN 处理具有大头姿态变化和困难初始化的面孔图像。我们在两个公开数据集上进行了广泛评估,结果表明 DAN 将失败率的最新技术水平降低了高达 70%。
Jun, 2017
本研究提出一种名为 Densely Connected NAS (DCNAS) 的神经架构搜索框架,通过连接细胞并使用可学习的权重来引入密集连接的搜索空间,并通过路径和通道级别的抽样策略设计一个融合模块来降低搜索空间的内存消耗。DCNAS 搜索算法得到的体系结构在公共语义图像分割基准测试中的表现显著优于先前算法。
Mar, 2020