ICMLJun, 2024

KernelWarehouse: 动态卷积设计的重新思考

PDF
TL;DRKernelWarehouse 是一种更通用的动态卷积形式，通过在同一层及相邻层之间利用卷积参数的依赖关系重新定义了 “核心”、“组装核心” 和 “注意函数” 等基本概念，以提高动态卷积的参数效率，并在 ImageNet 和 MS-COCO 数据集上使用各种 ConvNet 架构测试了其有效性。KernelWarehouse 还可应用于 Vision Transformers，在提高模型准确性的同时减小主干模型的尺寸。
dynamic convolutionparameter efficiencykernelwarehouseconvnet architecturesmodel size reduction
发现论文，激发创造
  • KernelWarehouse：面向参数高效动态卷积

    通过重新定义动态卷积中的基本概念，并采用策略性的卷积核分割和仓库共享，提出了一种更高效的动态卷积方法 KernelWarehouse，实现了参数效率和表征能力的有利平衡，并通过在 ImageNet 和 MS-COCO 数据集上的实验证实了其在不同 ConvNet 架构上取得了最新的结果。

    Aug, 2023

  • 动态卷积：卷积核的注意力机制

    提出一种名为 Dynamic Convolution 的新设计，基于卷积核的注意力动态地聚合多个并行卷积核，从而增加模型复杂度，提高卷积神经网络的表示能力，有效提高 MobileNetV3-Small 模型在 ImageNet 分类任务上的精度。

    Dec, 2019

  • 全维动态卷积

    该论文提出一种更加通用而优雅的动态卷积设计，Omni-dimensional Dynamic Convolution (ODConv)，通过多维度的注意力机制与并行策略学习卷积核在四个维度上的补充注意力，以提高各种流行的 CNN 主干网络的准确性，且可通过将其插入到现有 CNN 架构中来使用，实验证明与多个动态卷积方法相比，ODConv 甚至只需一组卷积核就能显著提高准确率。

    Sep, 2022

  • 通过矩阵分解重新审视动态卷积

    文章介绍了一种基于矩阵分解的新视角来重新考虑动态卷积的局限性，提出一种动态通道融合的方法来替代对通道组进行动态关注以解决优化问题，并降低了潜在空间的维数，从而减少了参数数量并且不影响准确性。

    Mar, 2021

  • 低资源说话者验证的动态核和通道注意力

    本文提出一种利用卷积神经网络中的基于注意力的动态卷积核来提高模型分辨率能力的方法，将模型参数适应于特征条件，通过通道注意力和多层特征聚合进一步提取全局语音特征，从而提高特征表示效果。实验结果表明，该方法在使用较少数据的情况下取得了良好的识别效果。

    Nov, 2022

  • SD-Conv： 动态卷积的参数效率

    本文提出了一种新框架 Sparse Dynamic Convolution（SD-Conv），它将动态卷积和不规则剪枝结合起来，通过使用可学习阈值导出二值化掩码以减少参数和计算成本，在 Imagenet-1K 数据集上获得更高的性能，并在多个下游任务中展示出优于基线的表现，从而成为常规动态卷积的高效替代品。

    Apr, 2022

  • DyNet: 动态卷积加速卷积神经网络

    本文研究了如何提高卷积神经网络的效率，提出了一种基于动态卷积方法的新型卷积操作，在多种 CNN 结构上进行了测试，并表明该方法可以在减少计算开销的同时保持性能，从而达到了更高的效率。

    Apr, 2020

  • FlexConv：可微卷积，连续改变核大小

    该论文提出了一种名为 FlexConv 的新型卷积操作，可以在学习可学习核大小的高带宽卷积核时以固定的参数成本来建模长期依赖性，提高分类准确性。

    Oct, 2021

  • Shift-ConvNets：小卷积核具有大核效应

    最近的研究发现，视觉变换器（ViTs）的出色性能得益于大的接受域。因此，大型卷积核设计成为了使卷积神经网络（CNNs）再次伟大的理想解决方案。然而，典型的大卷积核证明是不符合各种硬件平台的操作符，导致不兼容。因此，简单地扩大卷积核尺寸是不明智的。本文中，我们揭示了小卷积核和卷积操作可以实现与大卷积核尺寸相近的效果。然后，我们提出了一种能够在保持硬件友好性的同时通过稀疏机制，确保 CNNs 捕捉长距离依赖关系的位移式操作符。实验结果表明，我们的位移式操作符显著提高了常规 CNN 的准确性，同时大幅降低了计算要求。在 ImageNet-1k 上，我们增强的位移式 CNN 模型胜过了最先进的模型。代码和模型详见该网址。

    Jan, 2024

  • 动态区域感知卷积

    提出了一种名为 DRConv 的动态区域感知卷积，它可以自动将多个过滤器分配给具有相似表示的相应空间区域，以更有效处理复杂和不同的空间信息分布，从而代替任何现有网络中的标准卷积，尤其适用于高效网络中的动力卷积层。在 ImageNet 分类中，DRConv-based ShuffleNetV2-0.5x 在 46M 乘积添加水平下实现了 67.1% 的最新性能，相对改进了 6.3%。

    Mar, 2020