dnn pruning | BriefGPT - AI 论文速递

关键词dnn pruning

搜索结果 - 6

Archtree: 基于实时树结构探索的深度神经网络低延迟裁剪
Archtree 是一种新的基于延迟驱动的 DNN 结构修剪方法，通过并行地在树形结构中探索多个候选修剪子模型，实时估计目标硬件的延迟，从而更好地适应延迟预算并保持原始模型准确性。
PDF8 months ago
Artemis: 面向高效隐私保护机器学习的 HE 感知训练
通过使用一种新颖的组 Lasso 正则化目标和修剪技术，我们提出了一种在基于同态加密的推断中非常有效的神经网络修剪技术 Artemis，并证明当应用于现代卷积模型（ResNet18 和 ResNet18）时，可以在三个数据集上实现 1.2-
PDF9 months ago
PDP: 无需参数的可导修剪就是你所需的
提出一种高效、有效的训练时裁剪方案 ——Parameter-free Differentiable Pruning（PDP），可适用于各种视觉和自然语言任务，支持无结构裁剪约束，基于训练时动态权重函数生成软裁剪掩码并得到最新的模型大小、精确
PDFa year ago
Procrustes：用于稀疏深度神经网络训练的数据流和加速器
本文研究了适用于稀疏权重和激活张量的能源高效型深度神经网络 (DNN) 修剪算法，并提出了一种稀疏 DNN 训练加速器，可以在不牺牲精度的情况下消耗更少的能源和获得更快的速度。该研究表明，加速稀疏训练需要一种协同设计方法，其中算法被适应到硬
PDF4 years ago
CoCoPIE：压缩编译与协同设计让移动 AI 更加 “甜美
通过压缩 - 编译器共同设计可以在主流的移动设备上实现实时人工智能，而无需专用硬件支持。CoCoPIE 是一个支持所有主要 DNN 类型的框架，包括 CNN，RNN，转换器，语言模型等等，并且能够在现成的移动设备上运行许多典型的 AI 应用
PDF4 years ago
用于修剪非常深的神经网络的全局稀疏动量 SGD
本文提出了一个基于动量优化（momentum-SGD-based optimization）的优化方法，用于压缩 DNN 模型，从而消除冗余参数，减少网络的复杂度。该方法采用全局压缩策略来自动找到层次的稀疏率，经过优化后能够无需耗费时间进行
PDF5 years ago