本文提出一种新的卷积神经网络架构，通过将卷积核建模为连续函数，解决了传统神经网络处理序列数据时的梯度爆炸、记忆短视、非定长序列等问题，并在多个数据集上获得了最先进的结果。

Feb, 2021

提出一种名为 Dynamic Convolution 的新设计，基于卷积核的注意力动态地聚合多个并行卷积核，从而增加模型复杂度，提高卷积神经网络的表示能力，有效提高 MobileNetV3-Small 模型在 ImageNet 分类任务上的精度。

Dec, 2019

最近的研究发现，视觉变换器（ViTs）的出色性能得益于大的接受域。因此，大型卷积核设计成为了使卷积神经网络（CNNs）再次伟大的理想解决方案。然而，典型的大卷积核证明是不符合各种硬件平台的操作符，导致不兼容。因此，简单地扩大卷积核尺寸是不明智的。本文中，我们揭示了小卷积核和卷积操作可以实现与大卷积核尺寸相近的效果。然后，我们提出了一种能够在保持硬件友好性的同时通过稀疏机制，确保 CNNs 捕捉长距离依赖关系的位移式操作符。实验结果表明，我们的位移式操作符显著提高了常规 CNN 的准确性，同时大幅降低了计算要求。在 ImageNet-1k 上，我们增强的位移式 CNN 模型胜过了最先进的模型。代码和模型详见该网址。

Jan, 2024

本论文研究了在极端卷积核上训练和验证了能够光滑扩展卷积核的方法，提出了一种基于此方法的纯卷积神经网络结构 SLaK，可以在图像分类和各种下游任务中实现与分层变压器和现代 ConvNet 结构相当甚至更好的性能表现。

Jul, 2022

本文介绍了一种新型灵活卷积方法，及其 GPU 实现，以适应不规则的 3D 点云数据，并在百万级数据集上获得了显著提升。该方法具有较小的参数和存储需求，是首个能同时处理 700 万个点的有效方法。

Mar, 2018

基于卷积操作的神经网络在深度学习领域取得了显著的成果，但标准卷积操作存在两个固有缺陷，本文介绍了 Alterable Kernel Convolution（AKConv）。AKConv 通过给卷积核赋予任意数量的参数和任意采样形状，在网络开销与性能之间提供更丰富的权衡选择，通过不规则卷积操作完成高效特征提取过程，改进了目标检测任务的网络性能。

Nov, 2023

本文研究卷积神经网络中大核设计在现代网络中的应用，提出了五个指南以设计高效的，基于大卷积核的 CNN，并使用 RepLKNet 网络来实现可以与 ViTs 相媲美的结果，具有很好的方法可扩展性和性能表现优势。

Mar, 2022

通过使用异构卷积内核，我们提出了一种新颖的深度学习架构，在减少计算量和参数数量的同时保持代表性效率，实现了在 VGG 和 ResNet 等 CNN 架构中 3 到 8 倍 FLOPs 的速度提升，并与组 / 深度卷积进行比较，证明其具有更高的准确性和更多的 FLOPs 减少。

Mar, 2019

深度神经网络具有自动从原始数据中学习相关特征的能力，但完全连接（FC）和卷积架构（CNN）中的特征学习方式不同。本研究通过理论和实验证明了有限宽度 FC 网络的泛化性能可以通过选择适当的高斯先验来获得无限宽度网络的结果，而具有卷积隐藏层的架构则展现出了一种不同的特征学习方式。

Jul, 2023

使用 FPGA 的推断加速器，通过优化计算数据流、降低存储需求和优化卷积神经网络的部署，实现了支持任意核大小的卷积神经网络的高效部署，从而在各种基于视觉的应用中取得了卓越的性能。

Feb, 2024