Dec, 2021

可学习间距的扩张卷积

PDF
TL;DR该研究提出了一种新型的 “可学习空隙扩张卷积”（DCLS）方法来增加卷积神经网络（CNN）的感受野大小，从而提高图像分类的准确性，而且不会增加可训练参数的数量。该方法可以通过在卷积核中只添加一些非零元素，然后通过反向传播技术学习它们的间距来实现。
convolutional neural networksreceptive fieldsdilated convolutionlearnable spacingsimage classification
发现论文，激发创造
  • 可学习空间扩展的空洞卷积：超越双线性插值

    该论文提出了一种基于可学习空间的扩张卷积（DCLS）, 通过插值来处理非整数位置，其中使用了高斯插值，以提高在 ConvNeXt 和 Conv-Former 两种卷积网络上的 ImageNet1k 分类性能，而不增加模型参数。该方法基于 PyTorch 编写实现，并提供代码。

    Jun, 2023

  • 可学习间距的扩张卷积音频分类

    在这篇论文中，通过使用 DCLS 方法替代卷积架构中的 DSC 层，显著提高了音频标记的平均精度，同时不增加参数数量，并且对吞吐量只有较低的成本。

    Sep, 2023

  • 图像去噪的扩张深度残差网络

    本研究提出了一种采用扩张残差卷积神经网络（CNN），并使用零填充来保持输出和输入维数相同的方法，以 Gaussian 图像去噪为目标，能够在减少计算成本的同时实现与最新的残差去噪器相当的性能，并且在计算可解释性方面也能有所进展。

    Aug, 2017

  • 扩张残差网络

    本文介绍了一种通过采用 dilated residual networks 提高图像分类准确性及在物体定位和语义分割等下游应用中的效果，同时探究了这种方法引入的网格伪影问题并提出了解决方法。

    May, 2017

  • 双卷积神经网络

    本文提出了一种新的卷积神经网络模型，称为双卷积神经网络，该模型通过共享权重参数进行优化，在图像分类领域有着显著的性能提升。在 CIFAR-10，CIFAR-100 和 ImageNet 等图像分类基准测试中，该模型的性能均显著优于其他竞争模型。同时，本文还说明了双卷积神经网络在多方面性能均有体现，既可以构建更准确的模型，又可以以牺牲一定准确性的代价来减少模型的内存占用。

    Oct, 2016

  • 使用可学习间距和扩张卷积学习脉冲神经网络中的延迟

    提出了一个新的离线离散时间算法，基于通过时间的 1D 卷积进行模拟，来学习深度前馈 SNN 中的延迟并提高其表现，这一算法使用了可学习间隔的扩张卷积（DCLS），在测试中表现优于最新技术，为时序数据处理中精确模型的发展提供了潜力。

    Jun, 2023

  • 扩张点卷积：关于 3D 点云上点卷积的感受野大小

    本文提出了 DPC，一种解决点卷积网络接收域大小限制问题的方法，并通过对常见点云应用的实验结果表明 DPC 方法能够显著提高点卷积网络在语义分割和物体分类等领域的性能。

    Jul, 2019

  • FlexConv：可微卷积，连续改变核大小

    该论文提出了一种名为 FlexConv 的新型卷积操作，可以在学习可学习核大小的高带宽卷积核时以固定的参数成本来建模长期依赖性，提高分类准确性。

    Oct, 2021

  • 深度连续网络

    深度连续网络（DCNs）结合了空间连续滤波器和神经 ODE 的连续深度框架，能够学习滤波器的空间支持以及特征图的持续演化，与生物模型密切相关。DCNs 在标准图像分类和重构问题中具有多功能且广泛适用，可以提高参数和数据效率，并允许元参数化。我们展示了 DCNs 学习的尺度分布的生物合理性，并研究了它们在神经科学启发的模式补全任务中的性能。最后，我们通过改变输入对比度来实现 DCN 的高效实现。

    Feb, 2024

  • 用于密集预测任务的密集连接多扩张卷积网络

    本文介绍了一种新的用于高分辨率密集预测的卷积神经网络架构，称为 D3Net，其采用了多分辨率学习和逐渐膨胀的感受野来同时建模局部和全局模式，避免了深度网络中的深度耗散问题，并在图像和音频处理任务中取得了优越的性能。

    Nov, 2020