本研究提出了一种基于子网络的多目标进化算法用于卷积神经网络过滤器裁剪，通过逐步组合卷积层裁剪，可以在保持更好性能的同时得到轻量化的裁剪结果。

Oct, 2022

提出一种名为 MO-EvoPruneDeepTL 的多目标进化修剪算法，利用转移学习将深度神经网络的最后层替换为稀疏层，通过性能、复杂度和稳健性引导演化，实验结果表明该算法在所有目标方面都取得了有前途的结果，且网络修剪带来的影响有助于解释输入图像对于修剪神经网络预测最为相关的部分。最后通过利用不同修剪模型的集合显示整体性能和鲁棒性的提高。

Feb, 2023

提出使用扩散模型（EmoDM）解决演化多目标搜索的方法，通过学习先前解决的演化优化任务的噪声分布，在不经历进一步演化搜索的情况下，通过逆扩散生成一组非支配解，从而显著减少了所需的函数评估次数，并引入互信息熵注意机制来提高 EmoDM 的可伸缩性，实验证明 EmoDM 在解决具有多达 5000 个决策变量的 MOP 时在搜索性能和计算效率方面与最先进的演化算法相媲美，且 EmoDM 的预训练模型在未知问题上具有很好的泛化能力，展示了其作为通用高效 MOP 求解器的潜力。

Jan, 2024

本文提出一种叫作 EMO 的基于外部内存的元学习优化器，通过学习将过去的训练任务的学习过程保留和召回，在梯度提供信息有限时，使参数更新成功收敛，从而实现少样本元学习的优化问题。

Jun, 2023

本文提出了一种网络合并方法 Pruning-Aware Merging (PAM)，在考虑未来网络剪枝的情形下，合并神经网络以达到最小计算成本，实验结果表明与现有方法相比，PAM 可以获得高达 4.87 倍减少计算成本的效果。

May, 2019

本文提出了一种名为 EagleEye 的剪枝算法，利用简单且高效的自适应批量归一化评估方法来加速识别潜在精度最高的剪枝候选项，从而更好地裁剪神经网络。在 MobileNet V1 和 ResNet-50 等模型中进行实验表明，EagleEye 优于所有已有的算法，FLOPs 剪枝达到 50% 时，对于 MobileNet V1 模型，EagleEye 实现了 70.9% 的 Top-1 ImageNet 模型分类精度。

Jul, 2020

本文提出一种基于集成知识引导的删减算法 (EKG)，通过评估不同子网络的损失波动情况搜索最佳的子网络并实现后续的剪枝及微调，仅需 315 GPU 小时即可在不降低性能的情况下移除约 45.04% 的 FLOPS。

Mar, 2022

本文旨在填补演化多目标优化领域中子集选择策略研究缺口，提出基于大型候选解集的子集选择基准测试套件，并使用该测试套件比较一些典型方法。

Jan, 2022

本文提出了一种基于网络降维的多目标进化算法来解决影响最大化问题，并通过 PageRank 等中心度量指标将降维后的解还原到原始网络中，实验结果表明，该方法在八个大型网络上表现出更高的效率和更少的计算时间。

Apr, 2022

本研究提出网络剪枝空间的概念，探讨子网络结构在不同剪枝范围内的最小精度损失并证明了在某个剪枝范围内存在最佳的 FLOPs-to-parameter-bucket 比率，通过实验结果表明，我们找到的子网络在合理的 FLOPs 下优于现有最先进的剪枝方法。

Apr, 2023