Dec, 2018

ADMM-NN: 使用交替方向乘积算法的 DNN 的算法硬件协同设计框架

PDF
TL;DR研究对于 DNN 模型的压缩有两类深入了解，如权重修剪和量化；文章研究提出了第一个基于 ADMM 的 DNN 算法硬件协同优化框架 ADMM-NN，该框架可以最大化的提高优化性能以达到更高的 DNN 模型压缩比，并且在不损失准确性的情况下可以达到比以往更好的性能。
发现论文，激发创造
  • 使用 ADMM 实现 DNN 权重剪枝和权重聚类 / 量化的统一框架

    本文利用优化理论中的交替方向乘法器方法，发展了深度神经网络权重剪枝和聚类 / 量化的统一、系统的框架，旨在充分利用冗余，提高 DNN 性能。我们采用多种技术来进一步提高这一框架的性能，并实现了在 LeNet-5、AlexNet 和 VGGNet 等模型上的显著改善。

    Nov, 2018

  • 使用交替方向乘子法的系统性 DNN 权重剪枝框架

    采用交替方向乘子法（ADMM）的系统性权值剪枝框架解决了深度神经网络中常见的非凸优化问题和稀疏性约束问题，实现了较快的收敛速度和较优的剪枝效果。

    Apr, 2018

  • 渐进式 DNN 压缩：使用 ADMM 实现超高剪枝和量化率的关键

    通过 ADMM（Alternating Direction Methods of Multipliers）方法，本文提出了一种新的基于 DNN 模型的结构压缩框架，实现了在不损失精度的情况下对 Lenet-5，AlexNet 和 ResNet-50 模型分别达到 246x，36x 和 8x 的权重剪枝，并且在 AlexNet（ImageNet）中 61x 的权重剪枝只导致了细微精度下降，还引导出了重要的基于 ResNet 和 MobileNet 模型的权重剪枝结果以及全层次二进制化的 LeNet-5 和 ResNet 等。

    Mar, 2019

  • 利用渐进式 ADMM 在 DNN 中实现极低比特数和无损准确性

    通过 ADMM 算法的系统框架，延伸了基于 ADMM 的神经网络权重量化方法，提出了一种逐步递进的神经网络权重量化方法，可实现更进一步的权重量化，并通过实验证明了优越的性能。

    May, 2019

  • 使用交替方向乘子法进行深度神经网络的系统权重剪枝

    本文利用交替方向乘子法 (ADMM) 提出了一种深度神经网络 (DNNs) 系统权值剪枝框架，通过约束非凸优化问题，并借助 ADMM 框架对权重剪枝进行有序化处理，以在保持相同测试精度以内的情况下实现更高的压缩率和更快的收敛速率。

    Feb, 2018

  • 使用 ADMM 进行深度神经网络的渐进剪枝

    该篇论文提出了一种基于 ADMM 的渐进式权重剪枝方法，可以在中等剪枝率下进行局部剪枝，从而达到极高的剪枝速率，避免了准确度降低和收敛速度缓慢的问题。该方法在 ImageNet 和 MNIST 数据集上实现了高达 34 倍和 167 倍的剪枝速率。

    Oct, 2018

  • 使用 ADMM 的结构化权重剪枝和量化的超高效基于忆阻器的 DNN 框架

    这篇论文提出了一种统一而系统的基于忆阻器的框架，考虑了结构化权重剪枝和权重量化，并将交替方向乘子法（ADMM）纳入深度神经网络（DNN）训练中，以实现高准确度、低功耗和小面积占用率。在 VGG-16（ResNet-18）网络上，与原始 DNN 模型相比，该框架实现了 29.81X（20.88X）的权重压缩比，98.38％（96.96％）和 98.29％（97.47％）的功耗和面积降低，并仅有 0.5％（0.76％）的精度损失。

    Aug, 2019

  • 交替方向乘子法在稀疏卷积神经网络中的应用

    本论文使用交替方向乘子法（ADMM）来识别网络的稀疏结构，通过最小化一个目标函数，附带有促进稀疏的额外惩罚项，减少卷积神经网络（CNNs）的计算复杂度，生成具有更少计算和参数的模型同时保持或提高泛化能力。

    Nov, 2016

  • 极低比特神经网络：利用 ADMM 提高比特精度

    本文主要介绍了一种基于极低位神经网络，将离散约束优化问题分解成几个子问题，并结合了交替方向乘子法和迭代量化算法来加速优化过程的算法。实验证明该算法比现有技术更适用于极低位神经网络的图像识别和目标检测任务。

    Jul, 2017

  • StructADMM: DNNs 的结构化权重剪枝的系统性、高效性框架

    提出了一个系统性的结构裁剪框架来优化 DNNs，使用随机梯度下降和 ADMM，可以以更高的加速度进行优化，即使在一些有损准确性的情况下，模型的压缩率也能达到 15.0 倍。

    Jul, 2018