Jul, 2017

DenseNets 的内存高效实现

PDF
TL;DR该技术报告介绍了一种减少 DenseNet 在训练期间内存消耗的策略，使得可以在单个 GPU 上训练非常深的网络，并在 ImageNet ILSVRC 分类数据集上获得了最先进的单剪裁 top-1 误差为 20.26%。
densenetcomputational efficiencymemory consumption reductiondeep learningilsvrc dataset
发现论文，激发创造
  • 用于大型图像语义分割的高效梯度式 DenseNets

    采用 DenseNet-based 的梯形架构，探究 feature map 缓存对分割任务的影响， 最终在多个基准数据集上以更高的预测精度和执行速度超越当时最先进的方法，同时在商用硬件上实现了训练超高分辨率的语义分割任务。

    May, 2019

  • 在 GPU 上优化深度卷积神经网络的内存效率

    本文探讨了对于卷积神经网络的内存效率的优化，以及其对性能的影响，并提出了数据布局及内存访问模式方面的优化策略。实验证明，这些策略不仅对于单个层面有效，对于整个神经网络也可获得高达 27.9 倍和 5.6 倍的速度提升。

    Oct, 2016

  • 通过多级原位生成实现内存高效神经网络

    本研究提出了一种通用和统一的框架，通过多级现场生成机制和混合精度基准，实现了高分辨率参数的即时恢复，从而以最小的硬件开销直接将昂贵的内存交易转换为超快的芯片内计算，提高了内存效率 10-20 倍。

    Aug, 2021

  • 低内存神经网络训练技术报告

    本文研究了神经网络训练所需内存的实际需求量，并系统评估了四种降低训练内存需求的标准技术。研究结果表明，通过选择适当的技术组合，可以在保持较少损失精度的前提下，显著减少训练神经网络所需的内存。

    Apr, 2019

  • 紧密连接卷积网络

    该论文介绍了一种称为 DenseNet 的神经网络架构，通过将每一层与其他每一层之间连接起来，可以解决传统卷积神经网络中权重消失和特征重用问题，在目标识别领域中表现优异。

    Aug, 2016

  • 稠密连接的卷积网络

    该研究提出 Dense Convolutional Network (DenseNet) 模型，使用每一层之前的所有特征图作为输入，解决了梯度消失的问题，促进了特征重用，并在目标识别领域的四个竞争性基准上显着提高了性能效率。

    Jan, 2020

  • 使用百万像素图像训练卷积神经网络

    本文介绍了一种可以在有限的内存下训练深度卷积神经网络的方法，可以使用较大的图像尺寸，并通过定量比较证明了该方法与传统方法等效。

    Apr, 2018

  • 用亚线性内存成本训练深度神经网络

    提出一种系统性方法来减少深度神经网络训练的内存消耗，通过算法设计，在每个小批量仅需要一个额外正向传播的计算成本的情况下，以 O（sqrt（n））的内存成本训练 n 层网络，使用计算图分析进行自动原地操作和内存共享优化，可以在更少的计算成本下实现更多的内存节约效果。

    Apr, 2016

  • 简单为上，简单架构超越深度和复杂架构

    提出了一种简单的卷积神经网络架构 (SimpleNet)，在保持计算和内存效率的同时，具有与更复杂的 CNN 相媲美的性能，在多个基准测试中表现出色，包括 CIFAR-10，MNIST，CIFAR-100 和 SVHN，甚至在 ImageNet 数据集中也优于许多更大更深的 CNN 模型。

    Aug, 2016

  • 大规模神经网络训练调查

    本文系统地讨论了提高深度神经网络训练效率的方法，重点考虑了内存利用率和 GPU 训练，分类总结了相关策略，并且比较了不同类别之间的方法。

    Feb, 2022