本文提出了一种名为 DS-Net 的动态可整合网络概念，它通过在测试时动态调整网络的卷积滤波器数量，从而实现好的硬件效率。同时，DS-Net 通过一种双头动态门的机制，具有动态推理的能力，并使用一种两阶段训练方案进行训练。实验结果表明，DS-Net 在 ImageNet 数据集上与 ResNet-50 和 MobileNet 模型相比，具有更高的计算性能和实际加速性能。

Mar, 2021

本研究提出了一种名为动态网络手术的网络压缩方法，能够通过即时连接修剪显著降低网络复杂性，同时避免了错误裁剪的问题，并将其作为一个持续的网络维护过程，实验结果表明，该方法能够有效地压缩 LeNet-5 和 AlexNet 的参数数量，而不会损失精度，同时优于最近的裁剪方法。

Aug, 2016

提出了一种全动态模型的方法，称为 LC-Net，旨在最大化深度卷积神经网络的计算效率和任务准确性，通过以层和卷积滤波通道为单位的层次推理动力学，能够预测冗余层和卷积滤波器 / 通道并学习保留计算结果以实现最大化任务准确性。

Jul, 2020

提出一种双重动态推理框架，采用多粒度学习以及资源依赖的动态推理机制，优化计算资源和预测精度之间的权衡，有效降低计算资源消耗，通过实验验证其优越性。

Jul, 2019

本文提出了一种通过动态和稀疏的图结构来执行深度神经网络（DNNs）进行压缩存储和加速执行的方法，该方法在训练和推断时均可应用，以优化深度神经网络的轻量化模型。实验证明该方法可以显著提供存储和操作的性能，并在各种基准测试中几乎无损失地维护准确性。

Oct, 2018

本文提出一种称为模型切片的算法，通过将模型分割成多个组，使其能够在既定的计算资源预算内动态地提供预测结果，从而在有效地支持按需工作负载的基础上实现弹性推理成本。

Apr, 2019

深度神经网络在移动和嵌入式平台上执行推理具有延迟、隐私和始终可用性等多个关键优势。然而，由于计算资源有限，有效地在移动和嵌入式平台上部署深度神经网络具有挑战性。本论文提出了一种结合了算法和硬件的运行时性能权衡管理方法，通过动态超网络实现了实时满足变化的应用性能目标和硬件约束。在实验中，我们的模型在 Jetson Xavier NX 的 GPU 上使用 ImageNet 数据集相对于最先进的方法，在相似的 ImageNet Top-1 准确率下速度提高了 2.4 倍，或在相似的延迟下准确率提高了 5.1%。同时，我们设计了一个分级运行时资源管理器，在单模型部署场景中达到了 19% 的能量降低和 9% 的延迟降低，在两个并发模型部署场景中能量降低了 89%，延迟降低了 23%。

Jan, 2024

该研究论文提出了一种基于权重共享超网络机制的子图固定（SGS）优化方法，通过在动态环境下提供流式查询，实现了机器学习的更好的预测精度和更短的响应时间。

Jun, 2023

通过动态推理，针对 3D 医学图像分割的计算效率问题，本文提出了一种基于动态架构的网络框架 Med-DANet，通过动态选择适合不同切片的 2D 候选模型，以取得较好的准确性和效率平衡，并在数据分析、训练成本和模型结构等方面做了进一步的改进，实验证明其在 BraTS 2019 和 2020 数据集上相比前沿方法有着更高的模型效率和可比较的分割结果。

Oct, 2023

我们提出了一种新颖的框架，将约束优化方法和深度学习模型相结合，从而实现了强大的泛化能力和优越的逼近能力，基于该框架，我们设计了一种新的神经辅助算法，以在切片之间的资源限制下最大化网络效用，该算法具有高可扩展性，轻松适应不同数量的切片和切片配置，通过与深度强化学习方法等最先进的解决方案进行比较，我们在系统级网络模拟器中实施了该解决方案，并通过大量评估结果表明，在不同网络切片场景下，我们的解决方案获得了近乎最优的服务质量满意度和有希望的泛化性能。

Jan, 2024