本文提出了一种名为 JASQ 的方法，将神经网络的架构设计与模型压缩两项任务整合到统一框架中，可在考虑模型大小与性能准确性之间的平衡点上使用多目标进化算法搜索，实现高性能适合移动设备的紧凑神经网络模型。实验结果表明，该方法在搜索架构或仅搜索量化策略时优于现有方法。

Nov, 2018

该研究探索了一种新的神经网络压缩方法，通过不同比特宽度的量化不同层并使用可微分神经架构搜索框架进行优化，成功地实现了比现有方法更高的压缩率，模型尺寸缩小21.1倍或计算量降低103.9倍

Nov, 2018

该研究使用神经架构搜索技术将优选算术位宽分配和网络剪枝问题制定为通过搜索满足计算复杂性预算并最大化准确性的配置的神经架构搜索问题，旨在减少计算时间开支。

Apr, 2019

本研究从贝叶斯角度出发，提出了一种后验引导的神经结构搜索方法（PGNAS），通过估计网络结构和权重的联合后验分布，减少数据采样与超参数调整，并在图像分类任务上进行验证，证明了 PGNAS 较其它方法在搜索精度与速度方面具有良好的平衡。

Jun, 2019

该研究提出了few-shot NAS，利用多个超级网络（称为子超级网络）覆盖搜索空间的不同区域，以缓解操作之间的不良共适应，并证明其在多项任务中能够显著提高各种一次性方法的准确性，包括在NasBench-201和NasBench1-shot-1上的3个不同任务中的4个基于梯度的和6个基于搜索的方法，并在ImageNet、CIFAR10和Auto-GAN上取得最新水平。

Jun, 2020

APQ是一种用于在资源受限的硬件上高效进行深度学习推理的方法，通过联合优化神经架构、修剪策略和量化策略来处理设计空间更大的问题，同时利用全精度准确度预测器向量化至量化准确度预测器以大幅提高样本效率，其在ImageNet上的实验结果表明其可以以更低延迟/能耗降低2倍/1.3倍的前提下获得与项代号MobileNetV2+HAQ相当的准确性，并比代号为ProxylessNAS+AMC+HAQ的分别优化方法实现更高达2.3％的准确率，同时大幅减少GPU时数和CO2排放。

Jun, 2020

本文提出一种结合网络架构搜索和量化的方法(OQAT)，通过联合训练网络架构和量化并引入位继承方案来获得更高的量化准确率并在不同位宽下实现了新的最优结果。

Oct, 2020

我们提出了BatchQuant，这是一种稳健的量化器公式，可在数量少得多的GPU小时内训练出一种超过10^{76}个量化子网的紧凑超网，并首次无需重新训练即可无缝扩展一次权重共享NAS超网以支持任意超低位宽混合精度量化策略的子网。

May, 2021

提出一种硬件感知量化神经架构搜索(HQNAS)框架，将神经结构搜索和量化方法结合，通过权值共享和比特共享以高效优雅的方式完成。在CIFAR10中只需要4小时GPU时间，能发现出卓越的NN策略。同时，我们的方法支持在线学习和持续适应环境。

Oct, 2022

使用基于块的NAS方法实现在大规模任务上的量化感知NAS (INT8和FB-MP)，并在Cityscapes数据集上展示了显著的结果，找到了比DeepLabV3 (INT8)模型小33%， INT8模型快17.6%的FB-MP模型，而不影响任务性能。

Jan, 2024