Feb, 2023

利用稀疏性在剪枝神经网络中优化大模型训练

HTML
PDF
TL;DR本文提出利用稀疏子网络以优化内存利用和通信的方法来加速深度学习中的数据和层间并行算法，并将其融入 AxoNN，实验证明在 512 NVIDIA V100 GPU上，相比于 AxoNN，DeepSpeed-3D和 Sputnik，优化后的模型内存消耗减少了74％，总通信时间减少了40％，从而提供了34％的总体加速。
发现论文，激发创造
  • 探索卷积神经网络中稀疏结构的规律性

    本研究分析稀疏性对深度神经网络加速器的设计效率和预测精度的影响，证明了相对于细粒度稀疏性，粗粒度稀疏性能够在保持同等精度的前提下获得更好的压缩率和更高效的硬件设计

    May, 2017

  • 深度神经网络中稀疏性的状态

    本文评估了三种在深度神经网络中引入稀疏性的技术，并对两个大规模的学习任务进行了严格评估，结果表明，简单的幅度剪枝方法可以获得相当或更好的性能，而不能从头开始训练稀疏结构，并强调了建立大规模基准测试的必要性。

    Feb, 2019

  • 数据并行和稀疏性对神经网络训练的影响理解

    该论文研究了神经网络训练中的数据并行和稀疏性等因素及其对训练的影响，发现批次大小与训练次数之间存在一种普遍的缩放趋势，并通过理论分析阐明了这种现象，为神经网络训练提供了更好的解释。

    Mar, 2020

  • SparseRT: 基于GPU加速的深度学习推断非结构化稀疏矩阵运算

    本文介绍了一种基于 unstructured sparsity 的 code generator - SparseRT，通过对于1x1 convolutions 以及 fully connected layers 进行计算，该方法相对于 equivalent dense computation 速度提升了 3.4x 至 5.4x，同时处理 ResNet-50 的 sparse 3x3 convolutions 取得了 5x 的速度提升，能够有效地加速 GPU 上的深度学习操作。

    Aug, 2020

  • 通过划分稀疏矩阵块提高无硬件支持的稀疏DNN模型加速

    本文提出了一种算法-软件共同设计的剪枝方法，采用“分块友好”的稀疏模式来实现现有的密集结构上的延迟加速，旨在解决原先稀疏模型上由于随机分布权重导致计算不规则的问题，在GPU笔记本上成功地实现了1.95倍速度提升的优化效果。

    Aug, 2020

  • 深度学习中的稀疏性: 剪枝和生长用于神经网络的高效推理和训练

    本文系统梳理了当前深度学习领域中关于稀疏性技术的研究现状，并提供了丰富的稀疏性实现、训练策略及其数学方法等方面的教程，指明如何通过利用稀疏性以达到优化神经网络结构和提高性能的目的。

    Jan, 2021

  • 加速稀疏深度神经网络

    介绍了 NVIDIA Ampere GPU 架构中的稀疏张量核心 (Sparse Tensor Cores)，它们利用了 2:4 的稀疏模式，通过两倍的数学吞吐量加速了稠密矩阵单元，并提出了一种简单的工作流程以训练满足 2:4 稀疏模式和保持准确性的网络，从而在稀疏张量核心上实现精确模型的高效部署。

    Apr, 2021

  • 连通性的重要性：基于有效稀疏度的神经网络剪枝

    本文针对神经网络剪枝技术在高稀疏度领域的应用，提出了新的有效稀疏度概念，重定义了性能评价指标，同时开发了一个成本较低的扩展工具，通过评估各种剪枝算法的绝对和相对性能表现，证明新的评价框架下与基于初始化的剪枝算法相比，随机剪枝仍然是一种可行的方法。

    Jul, 2021

  • 随机剪枝的不合理有效性: 最朴素的稀疏训练基线模型的回归

    本研究探讨了如何在现代神经网络中使用稀疏训练，提出了初始化时的随机剪枝能够有效地提高神经网络的稀疏训练性能，结果表明此方法可以匹配对应的密集网络，达到了预期效果，并且进行适当的层级稀疏比率的选择，可以进一步提高性能。

    Feb, 2022

  • 大规模神经架构的反向传播压缩：结构化激活剪枝

    通过在深度神经网络中采用结构化修剪和块稀疏性操作，目前的研究旨在通过减少激活值的内存消耗来减小GPU内存需求，从而降低大规模模型训练的要求并解决生态环境问题。

    Nov, 2023