Apr, 2019

基于数据驱动的神经元分配用于规模聚合网络

PDF
TL;DR本文提出了一种数据驱动的神经元分配方法，以自适应地在深度神经网络的不同构建块中汇总多尺度信息。通过使用基于堆栈的采样、卷积和上采样操作生成每个尺度的特征映射，探索神经元分配方法，对计算复杂度进行了大规模的实验测试，并成功地应用于图像分类和目标检测任务，在与 ResNet 和其变体的对比中， ScaleNet 能够获得更好的性能。
multi-scale informationneuron allocationscale aggregation networkconvolutional neural networkscomputer vision
发现论文，激发创造
  • 神经元的高效缩放：资源受限深度神经网络

    本文提出了一种名为 NeuralScale 的算法，该算法使用了迭代剪枝方法控制神经网络的大小和参数，进而优化了固定神经网络的结构和配置，经过实验得出，NeuralScale 在参数约束的情况下，与默认配置相比，在 CIFAR10、CIFAR100 和 TinyImageNet 的数据集上分别增加了 3.04％，8.56％和 3.41％的准确性，取得了优异的表现。

    Jun, 2020

  • 深度层聚合

    通过进行深度聚合来更好地融合图像识别中层间的信息，并对网络体系结构的各个方面进行了实验研究，发现深度聚合可以提高识别效果并减少网络参数。

    Jul, 2017

  • ScaleNet：一种有限信息的无监督表示学习方法

    本研究提出了一种名为 ScaleNet 的简单高效的无监督表示学习方法，通过使用多尺度图像来增强有限信息条件下卷积神经网络 (ConvNets) 的性能，并展示了 ScaleNet 方法在旋转预测任务上的优越性及其对其他模型的分类任务的改进能力。

    Oct, 2023

  • Big-Little Net：一种高效的多尺度特征表示方法，用于视觉和语音识别

    该论文提出了一种新的卷积神经网络 (CNN) 架构，通过使用具有不同计算复杂度的多分支网络，在不同的尺度上频繁合并特征，以使用更少的计算实现多尺度特征，并在目标识别和语音识别任务上显著提高了模型效率和性能。

    Jul, 2018

  • 空洞卷积多尺度上下文聚合

    本文提出了一种特别为密集预测设计的新的卷积网络模块，该模块利用扩张卷积系统地汇集多尺度上下文信息，而不会丢失分辨率，并证明了该模块可以提高现有最先进的语义分割系统的精度。同时，作者还探究了将图像分类网络适应于密集预测的可能性，并提出了简化适应后的网络结构有助于提高精度。

    Nov, 2015

  • 关注尺度：尺度感知的语义图像分割

    本论文研究了怎样在卷积神经网络中实现多尺度特征表示，提出了一种注重对每个像素位置进行加权的注意力机制。通过对三个大型数据集的广泛实验，证明了该方法的有效性。

    Nov, 2015

  • 多尺度细化的注意力语义分割

    本文提出了一种新颖的注视模型用于语义分割，该模型聚合了多尺度和上下文特征进行预测。该模型使用骨骼卷积神经网络框架输入多个不同的尺度，进而可以获取不同尺度的表示。提出的注视模型将分别处理不同尺度的特征并集成它们。然后，该模型的位置注视分支学习到每个像素位置上的多尺度特征的软加权。此外，我们添加了一个重新校准分支，与位置注视分支平行，用于重新校准每个类别的分数图。在 PASCAL VOC 2012 和 ADE20K 数据集上，我们取得了相当有竞争力的结果，超过了基线和相关工作。

    Jul, 2018

  • AANet: 用于高效立体匹配的自适应聚合网络

    提出了一种基于稀疏点和神经网络的代价聚合方法，用于加速立体匹配的推理速度，并在 KITTI 数据集上取得了有竞争力的结果。

    Apr, 2020

  • SA2-Net：用于显微图像分割的尺度感知注意力网络

    提出了一种名为 SA2-Net 的方法，利用多尺度特征学习来有效处理微观图像中的不同结构，通过尺度感知注意力模块实现对微观区域的准确分割，并通过自适应上采样模块解决了模糊边界的问题。

    Sep, 2023

  • 多尺度统一网络图像分类

    在这项工作中，我们基于中心核对齐（CKA）分析对卷积神经网络（CNNs）的模型进行了全面的分层调查，结果表明较低的层对输入图像尺度变化更敏感。在此基础上，我们提出了多尺度统一网络（MUSN），由多尺度子网络、一个统一网络和尺度不变约束组成，以获得从多尺度输入中提取特征的能力，并将低级特征在深层进行统一，提取高层语义特征。大量在 ImageNet 和其他尺度多样的数据集上进行的实验表明，MUSN 在模型性能和计算效率方面取得了显著的改进。特别是在多尺度情景下，MUSN 的准确率提高了 44.53％，FLOPs 降低了 7.01-16.13％。

    Mar, 2024