Sep, 2021

PP-LCNet: 一种轻量级的 CPU 卷积神经网络

PDF
TL;DR本文介绍了一种基于 MKLDNN 加速策略的轻量级 CPU 网络 PP-LCNet，这种网络在多项任务上得到了改进。通过技术上的提升，PP-LCNet 在分类任务中的准确性大大优于之前的网络结构，并在计算机视觉的下游任务中表现出色。该研究使用的所有实验都是基于 PaddlePaddle 实现的，并提供相应的代码和预训练模型。
cpu networkmkldnn acceleration strategypp-lcnetcomputer visionpaddlepaddle
发现论文，激发创造
  • 基于查找的卷积神经网络（LCNN）

    本研究提出了一种快速、紧凑且准确的卷积神经网络模型 LCNN，能够在资源受限的平台上实现高效的学习和推断，在 ImageNet 数据集上取得了较好的速度和精度表现，并展示了其在深度学习模型的设备端训练中的优势。

    Nov, 2016

  • 更复杂的网络，更少的推理复杂度

    这篇论文提出了一种新的卷积神经网络结构，通过添加低成本协作层加速了推理过程，实验结果表明，平均加速率为 32％，性能下降极小。

    Mar, 2017

  • 点云网络：线性层参数数量的数量级改善

    引入了 Point Cloud Network (PCN) 架构，通过对线性层的直接比较，提供经验证据证明 PCN 优于多层感知机 (MLP)。在 CIFAR-10 和 CIFAR-100 数据集的训练中，AlexNet-PCN16 在其线性层参数减少 99.5% 的同时，达到与原始架构相当的测试准确率。

    Sep, 2023

  • PVANet：用于实时目标检测的轻量化深度神经网络

    该论文提出了一种全新的、比其他最先进的网络轻一个数量级的网络结构，基于更少通道的深度学习原理，通过采用 C.ReLU 和 Inception 结构等技术创新，使这个深度神经网络最小化其冗余，同时在计算成本小于最近的 ResNet-101 的情况下能够高效地训练，从而在知名的目标检测基准测试上实现了 84.9% 和 84.2% 的 mAP。

    Nov, 2016

  • L^3U-net: 基于低延迟轻量级 U-net 的图像分割模型，适用于并行 CNN 处理器

    本研究提出了一种用于低资源边缘设备的小型图像分割模型 L^3U-net，引入了一种数据折叠技术，利用 CNN 加速器的并行卷积层处理能力，降低推理延迟，并将该模型部署到 MAX78000 设备，结果表明 L^3U-net 在两个不同的分割数据集上实现了 90% 以上的准确率，每秒处理 10 帧。

    Mar, 2022

  • 深度神经网络的完全动态推断

    提出了一种全动态模型的方法，称为 LC-Net，旨在最大化深度卷积神经网络的计算效率和任务准确性，通过以层和卷积滤波通道为单位的层次推理动力学，能够预测冗余层和卷积滤波器 / 通道并学习保留计算结果以实现最大化任务准确性。

    Jul, 2020

  • 用于异构硬件系统上的像素级分类的高效卷积神经网络

    本文介绍了三个用于图像像素分类的卷积神经网络模型，通过去除冗余计算或使用全卷积体系结构来解决滑动窗口网络中存在的冗余计算问题。作者对这三种模型进行了评估，并评估了它们在两个神经组织数据集上的表现，以及训练过程中使用的不同损失函数。

    Sep, 2015

  • FastFlowNet：一种轻量级网络用于快速光流估计

    本文提出了一种基于深度学习的快速且精确的光流预测方法：FastFlowNet，其参数较少，适用于低功耗设备，且在合成和真实数据集上的实验证明了其有效性。

    Mar, 2021

  • ShuffleNet: 面向移动设备的高效卷积神经网络

    我们推出了一种名为 ShuffleNet 的极度计算效率的卷积神经网络体系结构，专门为计算能力非常有限（例如 10-150 MFLOPs）的移动设备设计。该体系结构利用了两个新操作，即逐点组卷积和通道混洗，以大大降低计算成本，同时保持准确性。在 ImageNet 分类和 MS COCO 对象检测方面的实验表明，ShuffleNet 的性能优于其他结构，在 40 MFLOPs 的计算预算下，Top-1 错误率（绝对 7.8％）低于近期 MobileNet 的 ImageNet 分类任务。在基于 ARM 的移动设备上，ShuffleNet 实现了与 AlexNet 相比约 13 倍的实际加速，同时保持可比的准确性。

    Jul, 2017

  • LiteFlowNet：一种用于光流估计的轻量级卷积神经网络

    本文介绍了一种新的神经网络，通过轻量级级联网络、流规则化层和特征提取的结构来提高光流估计的准确度，并且比现有的 FlowNet2 在模型大小和运行速度等方面都有所优化。

    May, 2018