adaptive pruning | BriefGPT

关键词adaptive pruning

搜索结果 - 4

最优时间变量学习中的时间规则化
本文在深度神经网络中引入最优时间变量学习，并通过引入与离散动态系统的时间跨度直接相关的正则化项，进一步拓展了该概念。此外，我们还提出了一种自适应修剪方法，适用于具有残差的神经网络 (ResNet)，在不影响表达能力的同时，降低网络复杂度和训
PDFa year ago
基于发育可塑性启发的深度脉冲和人工神经网络自适应修剪
本文提出了一种发育可塑性启发的自适应剪枝方法，可以动态优化神经网络结构，使其学习效率和速度得到持续和显著的提高，尤其是对于神经形态学数据集的脉冲神经网络而言。
PDF2 years ago
轻量化思路：自适应剪枝在医学图像分割中的 Transformer 优化
本文提出应用自适应修剪技术来改进医学图像分割的 transformer 模型。我们的自适应修剪 transformer 的方法名为 APFormer。该模型使用自监督的自我注意机制和高斯先验相对位置嵌入来改进依赖信息建立。我们的实验表明，A
PDF2 years ago
基于自适应激活的结构化剪枝
本文提出了一种自适应基于激活的结构化裁剪方法，以自动高效地生成满足用户要求的小型、准确和硬件高效的模型，它提出了迭代性结构化裁剪和自适应剪枝策略，可在不降低精度的情况下大幅减少参数和 FLOPs
PDF2 years ago