NetAdapt 算法可以自动将预先训练的深度神经网络调整到移动平台，实现较好的精度和延迟平衡。

Apr, 2018

GearNN 是一种自适应的推理体系结构，它优化了少量的 “失真敏感” DNN 参数，根据输入的失真水平适应性地调整，从而提高了动态输入失真下 DNN 推理的准确性。

Mar, 2020

移动设备上处理视觉数据具有多种应用，但现有的计算机视觉技术通常过于耗电无法部署在资源受限的边缘设备上。本文提出一种新技术，通过引入超参数来动态调整深度神经网络的精确度和能源消耗，无需重新训练即可适应不同边缘应用的硬件约束与精确度要求。该技术称为 AdaptiveActivation，实验证明其在流行的边缘设备上可以达到基准的误差范围内，并且比基准技术所需内存减少了 10% 到 38%，从而提供更多的精确度与效率权衡选项。

Sep, 2023

提出了一种名为 ADA-GP 的算法，通过使用梯度预测来加速深度神经网络（DNN）的训练，同时保持准确性，并且这种算法具有可适应的特性来平衡精度和性能，同时还提供了一种详细的硬件扩展来实现梯度预测加速潜力。通过对 14 种 DNN 模型的广泛实验表明，与基线模型相比，ADA-GP 可以实现 1.47 倍的平均加速，并且由于减少了与基线硬件加速器相比的外部内存访问，平均消耗的能量降低了 34％。

May, 2023

本篇文章提出了 FedAdapt，这是一种联邦学习框架，通过层次化的离线和强化学习优化，将深度神经网络中的特定层进行远程卸载，以解决物联网设备执行效率、设备计算异构性和网络带宽变化等方面的挑战，实验证明，相比传统的联邦学习，FedAdapt 可以将典型物联网设备的训练时间缩短一半以上，可以将极端滞后的训练时间和总体训练时间缩短高达 57％，在不损失准确性的情况下还可以将训练时间缩短多达 40％。

Jul, 2021

本文研究了如何更有效地训练具有多个中间分类器的自适应深度网络，提出了梯度均衡算法，内联子网络协作方法和一对所有知识蒸馏算法等三种方法，以改进分类器协作并进一步提高自适应性深度网络的效率。在 CIFAR-10，CIFAR-100 和 ImageNet 等多个数据集上展示了该方法相对于现有技术的改进效果。

Aug, 2019

提出一种新的动态配置技术，可在运行时进行逐步的能量 - 精确度权衡，调整深度神经网络中通道数量，以响应时间、功率和准确性目标调整，并且我们对 MNIST、CIFAR-10 和 SVHN 数据集的三个知名网络进行了性能分析并证明，我们能够在三个基准测试中实现高达 95% 的能量降低且不到 1% 的准确率损失。

Jul, 2016

我们提出了一个不需要反向传播梯度的适应方法，该方法在参数、训练时间和内存使用方面都非常高效，并且在 VTAB 基准测试中实现了极好的准确性 - 参数折衷，并展示了在视频分类等计算密集型任务中对于训练效率和可扩展性上的优越性。

Feb, 2024

本文提出 NetAdaptV2，通过三项创新工作平衡各个步骤的时间并支持非可微分搜索指标，进而加速神经结构搜索并提高神经网络性能。

Mar, 2021

通过自适应选取深度神经网络组件或网络进行评估，可以在不损失准确性的情况下，显著减少计算时间，例如在 ImageNet 图像识别挑战中，最多可加速 2.8 倍，并且仅有最高 5 个命中率的轻微损失。

Feb, 2017