Jun, 2023

可学习空间扩展的空洞卷积：超越双线性插值

PDF
TL;DR该论文提出了一种基于可学习空间的扩张卷积（DCLS）, 通过插值来处理非整数位置，其中使用了高斯插值，以提高在 ConvNeXt 和 Conv-Former 两种卷积网络上的 ImageNet1k 分类性能，而不增加模型参数。该方法基于 PyTorch 编写实现，并提供代码。
dilated convolutionlearnable spacingsinterpolationimagenet classificationpytorch
发现论文，激发创造
  • 可学习间距的扩张卷积音频分类

    在这篇论文中，通过使用 DCLS 方法替代卷积架构中的 DSC 层，显著提高了音频标记的平均精度，同时不增加参数数量，并且对吞吐量只有较低的成本。

    Sep, 2023

  • 可学习间距的扩张卷积

    该研究提出了一种新型的 “可学习空隙扩张卷积”（DCLS）方法来增加卷积神经网络（CNN）的感受野大小，从而提高图像分类的准确性，而且不会增加可训练参数的数量。该方法可以通过在卷积核中只添加一些非零元素，然后通过反向传播技术学习它们的间距来实现。

    Dec, 2021

  • 使用可学习间距和扩张卷积学习脉冲神经网络中的延迟

    提出了一个新的离线离散时间算法，基于通过时间的 1D 卷积进行模拟，来学习深度前馈 SNN 中的延迟并提高其表现，这一算法使用了可学习间隔的扩张卷积（DCLS），在测试中表现优于最新技术，为时序数据处理中精确模型的发展提供了潜力。

    Jun, 2023

  • 动态卷积：利用空间稀疏性加速推理

    本文提出了一种基于条件输入图像的动态卷积方法，其中通过引入一个小型门控分支来学习空间位置，以决定应该对哪些区域进行评估，通过在 CIFAR、ImageNet 和 MPII 数据集上的实验证明该方法在处理人体姿态估计等空间稀疏任务方面，相对已有方法具有更好的准确性和处理效率。

    Dec, 2019

  • 平滑膨胀卷积以提高密集预测性能

    本篇研究针对膨胀卷积存在的网络粗颗粒化问题，提出了两种去网格化方法和 shared and separable operations 和 SS output layer 的概念，并且经过有效接受域分析和实验验证，发现这些方法和概念能够有效地提高膨胀卷积神经网络的性能。

    Aug, 2018

  • 增强变形可分离卷积实现多视频帧插值

    该论文提出了一种增强的可变形可分离卷积（EDSC）来生成视频序列的中间帧，并能够以任意时间位置生成任意帧。通过学习自适应卷积核、偏移量、掩码和偏置等多个组件，能够从非局部邻域获取信息，并且通过扩展的 coord-conv 技巧，能够控制中间时间步来生成多个中间帧。实验结果表明，该方法在广泛的数据集范围内优于现有方法。

    Jun, 2020

  • 用于图像分割的膨胀卷积平滑优化

    通过引入额外的平均层，我们提出了一种可以显著提高图像分割的扩张卷积效能的解决方法，其采用的低成本平滑方法具有比以前方法更高的计算效率。

    Mar, 2019

  • 视觉识别的深度协同学习

    本研究使用深度协同学习（DCL）方法，将卷积层分解成两个小的卷积层，然后将它们在每个空间位置处融合，以减少计算复杂度和模型复杂度，同时提高在各种视觉识别任务中的准确性，减少模型参数 (在 AlexNet 中减少 16.82%)。

    Mar, 2017

  • 理解卷积在语义分割中的应用

    该论文提出了一种改进像素级语义分割的深度学习方法，其中涵盖了密集上采样卷积和混合空洞卷积框架，达到了在 Cityscapes 等数据集上的最先进结果。

    Feb, 2017

  • 深度尺度空间：尺度等变性

    介绍了深度尺度空间 (DSS)，一种卷积神经网络的推广，利用传统图像识别任务的尺度对称结构。在构建尺度等变的互相关基础上，可以在几乎任何现代深度学习架构中以即插即用的方式使用。通过应用于 Patch Camelyon 和 Cityscapes 数据集，证明了其实用性和高效性，并进行自省研究以进一步了解其性质。

    May, 2019