MMJul, 2022

基于感受野的分布式 CNN 推理加速在协同边缘计算中的分割

PDF
TL;DR本文研究使用卷积神经网络在协作边缘计算网络中进行推理加速，提出了使用基于感受野的分割来避免推理任务划分中的推理准确度损失，提出了一种新颖的合作式边缘计算方法，使用融合层并行化将 CNN 模型划分为多个卷积层块，使用 DPFP 动态规划找到将 CNN 模型划分为多个块的最优解，实验结果表明，DPFP 可以将 VGG-16 的推理加速高达 73％，服务可靠性高。
inference accelerationdistributed convolutional neural networkscollaborative edge computingreceptive field-based segmentationfused-layer parallelization
发现论文，激发创造
  • 基于边缘计算无缝协作的分布式深度学习推理加速

    本文研究了使用分布式卷积神经网络（CNN）在协作边缘计算中进行推理加速。我们考虑了分段分区时的感受野，以确保推理准确度。为了最大化通信和计算进程之间的并行性，从而最小化推理任务的总时间，我们设计了一种新颖的任务协作方案，称为 HALP。实验证明，HALP 可以使 VGG-16 中 CNN 推理的速度提高 1.7-2.0 倍，对于 4 个任务每批次的速度提高 1.7-1.8 倍，这优于最先进的 MoDNN 方案。此外，我们评估了时变信道下的服务可靠性，表明 HALP 是确保高服务可靠性的有效解决方案。

    Jul, 2022

  • 一种基于 FPGA 的加速器，实现对任意核大小的 CNN 的高效支持

    使用 FPGA 的推断加速器，通过优化计算数据流、降低存储需求和优化卷积神经网络的部署，实现了支持任意核大小的卷积神经网络的高效部署，从而在各种基于视觉的应用中取得了卓越的性能。

    Feb, 2024

  • 渐进式分组法的高效语义分割

    本文研究了对于像 ERFNet 这样的实时语义分割模型，通过采用分组卷积、混洗卷积、深度可分离卷积等技术来优化 CNN 的内存和运行时间。作者提出了一种新的训练方法和高效的架构设计，使得在 FLOPs 的改善下，在 ERFNet 的基础上提高 8% 的准确率且运行时间达到 5 倍优化。

    Jun, 2018

  • 利用更快的傅里叶卷积神经网络进行加速 MR 扫描的图像重建

    本文提出了一种基于 Faster Fourier Convolution 的方法，通过扩展全局接受域来更准确地重建部分扫描数据的 MRI 图像，实现了比传统方法更快速的计算速度和更高质量的重建效果。

    Jun, 2023

  • 深层解析网络语义图像分割

    该研究论文通过将高阶关系和标签上下文混合等丰富信息融入到马尔可夫随机场中，提出了一种名为深度解析网络的卷积神经网络，通过一次前向运算实现确定性的端到端计算。在 PASCAL VOC 2012 数据集上经过全面评估，表现出卓越的分割准确性。

    Sep, 2015

  • 实现边缘智能动态卷积神经网络推理的探索

    本研究提出了动态流式传输模型参数和基于库的方法来实现传统 CNN 架构的可扩展和动态分布式 CNN 推断，利用部分重构技术提高了资源受限的边缘设备的性能，并在 Xilinx PYNQ-Z2 板上实现了 LeNet-5 CNN 模型，具有 92％，86％和 94％的分类准确率。

    Feb, 2022

  • DFANet: 深度特征聚合实时语义分割

    本文提出了一种名为 DFANet 的极其高效的卷积神经网络架构，用于在资源有限的情况下进行语义分割。通过子网络和子阶段级联聚合区分特征，通过多尺度特征传播，DFANet 大大减少了参数数量，并提高了模型学习能力，在速度和分割性能之间取得平衡。在 Cityscapes 和 CamVid 数据集上的实验证明了 DFANet 具有比现有最先进的实时语义分割方法快 2 倍，FLOPs 少 8 倍的卓越性能，同时提供可比较的准确性。具体而言，它在 Cityscapes 测试数据集上实现了 70.3％的 IOU 平均值，仅使用 1.7 GFLOPs，并在一张 NVIDIA Titan X 卡上以 160 FPS 的速度进行推断，在更高分辨率图像上推断时，实现了 71.3％的 IOU 平均值和 3.4 GFLOPs。

    Apr, 2019

  • 卷积神经网络大采样场动态过滤

    我们提出了一种大采样场的动态过滤策略，用于 ConvNets 中，该方法使用位置特定的卷积核，能够从不仅相同位置，而且多个采样的邻域中进行学习，同时引入残差学习和注意力机制，以融合来自不同样本的特征。我们在对象检测，语义分割和流估计等任务中展示了 LS-DFN 的优点，它与 VOC 基准上的强基线相比，在目标检测和语义分割任务中具有更强的识别能力，在 FlyingChairs 数据集上的流估计则具有更锐利的响应。

    Mar, 2018

  • 动态原型卷积网络用于小样本语义分割

    针对 few-shot 语义分割的挑战，该论文提出了一种基于动态原型卷积网络 (DPCN) 的解决方案，其中动态卷积模块 (DCM) 从支持前景生成动态内核，而支持激活模块 (SAM) 和特征过滤模块 (FFM) 则一起为查询图像提供丰富的背景信息，实现了更准确的 few-shot 语义分割。DPCN 在 1-shot 和 5-shot 设置下均表现出优越性能。

    Apr, 2022

  • 深度学习马尔可夫随机场用于语义分割

    本论文提出了一种名为 Deep Parsing Network (DPN) 的卷积神经网络，通过将高阶关系和标签上下文的混合引入到 MRF 模型中，该网络能够在一次前向传递中实现确定性的端到端计算。与先前使用迭代算法优化 MRF 不同的是，该论文通过 DPN 精确求解 MRF，并能够在近似一次 MF 迭代的情况下达到较高的分割精度。此外，DPN 使得 MF 更容易被并行化和加速，从而可以实现高效的推理。

    Jun, 2016