PocketNet:极轻量级人脸识别网络,使用神经结构搜索和多步知识蒸馏
本研究详细探讨和比较了轻量级人脸识别模型,特别关注 MobileFaceNet 及其修改版 MMobileFaceNet。我们研究了数据集选择、模型架构和优化算法对人脸识别模型性能的影响。通过在 EFaR-2023 竞赛中的参与,我们的模型在参数受限的类别中表现出色。通过使用 Webface42M 数据集的子集和集成锐度感知最小化(SAM)优化,我们在各种基准测试中实现了显着的精度提升,包括跨姿势、跨年龄和跨种族的性能。结果凸显了我们方法在打造既计算高效又在不同条件下保持高精度的模型方面的有效性。
Nov, 2023
通过深度网络剪枝等方法,对基于小型 SqueezeNet、流行的 MobileNetv2 和 ResNet50 架构的网络进行压缩,以实现移动设备上的可靠且实时的人脸识别。
May, 2024
本文提出了基于参数重映射技术的 Fast Neural Network Adaptation (FNA) 方法,该方法可以将已有的高性能网络结构调整为不同的深度、宽度或内核大小,进而实现更高效的神经架构搜索,该方法在 MobileNetV2 的实验中,通过对现有网络进行 FNA 调整,既可用于目标分割任务又可用于目标检测任务,并且在性能上均超过了手动设计和 NAS 的现有网络设计,且其计算成本明显低于 SOTA 的目标分割 /detection NAS 方法 (DPC、Auto-DeepLab 和 DetNAS)。
Jan, 2020
运用神经结构搜索技术 (NAS), 我们为视觉姿态估计任务自动确定了几个帕累托最优的卷积神经网络 (CNNs), 以适应小型 UAV 硬件限制的特点,展示了现实生活中多个 NAS 优化的 CNNs 可以在 27 克的 Crazyflie 纳米 UAV 上运行,并通过降低 32%的实地控制误差,具有实时的推断速率~10Hz@10mW 和~50Hz@90mW,从而进一步优化了 CNNs。
Mar, 2023
本文提出了一种快速网络适应(FNA ++)方法,通过参数转换技术,使种子网络(例如,在 ImageNet 上预训练的网络)的架构和参数可以适应不同深度、宽度或内核大小,从而更加高效地使用神经架构搜索(NAS)用于图像分割和目标检测任务,实验结果表明,FNA ++ 在 MobileNetV2,ResNets 和 NAS 网络上都表现出了很好的泛化能力,并且计算成本显著低于现有的分割和检测 NAS 方法。
Jun, 2020
针对面部验证应用所需要效率极高和吞吐量大的需求,本文提出了基于混合深度卷积核的一组极其高效的深度学习模型 MixFaceNets,在多个数据集中对模型进行了评估,结果表明在计算复杂度相同的情况下,MixFaceNets 在所有的数据集上性能优于 MobileFaceNets,同时在计算复杂性在 500M 和 1G FLOPs 之间时,我们 MixFaceNets 的结果与排名前几位的模型相当,同时使用的 FLOPs 更少,验证了我们提出的 MixFaceNets 的实用价值。
Jul, 2021
本研究提出了一种名为 MobiFace 的轻量级深度神经网络,可在移动设备上进行人脸识别,并在某些情况下表现出与大型深度网络的竞争力。
Nov, 2018
提出一种硬件感知量化神经架构搜索 (HQNAS) 框架,将神经结构搜索和量化方法结合,通过权值共享和比特共享以高效优雅的方式完成。在 CIFAR10 中只需要 4 小时 GPU 时间,能发现出卓越的 NN 策略。同时,我们的方法支持在线学习和持续适应环境。
Oct, 2022