动态过滤网络

NIPSMay, 2016

Dynamic Filter Networks

Bert De Brabandere, Xu Jia, Tinne Tuytelaars, Luc Van Gool

TL;DR介绍一种新的动态滤波网络架构，使得学习的滤波器可以根据输入动态生成，具有高度适应性，且不会过多增加模型参数。通过可视化学习到的滤波器，证明该网络可以在无标签数据上学习信息，从而可以用于各种无监督预训练任务，例如光流和深度估计。

Abstract

In a traditional convolutional layer, the learned filters stay fixed after training. In contrast, we introduce a new framework, the Dynamic Filter Network, where filters are generated dynamically conditioned on an input. We show that this architecture is a powerful one, with increased

dynamic filter network learned filters adaptive feature extraction state-of-the-art performance unsupervised pretraining

发现论文，激发创造

解耦动态滤波网络

提出了一种 Decoupled Dynamic Filter（DDF）卷积方法，可以同时解决标准卷积的两个主要缺点：内容不适配和计算量大。DDF 将深度动态滤波器分解为空间动态滤波器和通道动态滤波器，大大减少了参数数量，并将计算成本限制在与深度卷积相同的水平上。在分类网络中，使用 DDF 替换标准卷积可以显著提高性能，同时其计算成本几乎减半。在检测和联合上采样网络上进行的实验也证明了 DDF-upsampling 变体在比标准卷积和专门的内容自适应层更优秀的性能。

Apr, 2021

深度神经网络的完全动态推断

提出了一种全动态模型的方法，称为 LC-Net，旨在最大化深度卷积神经网络的计算效率和任务准确性，通过以层和卷积滤波通道为单位的层次推理动力学，能够预测冗余层和卷积滤波器 / 通道并学习保留计算结果以实现最大化任务准确性。

Jul, 2020

动态神经网络：一项综述调查

本文综述了动态神经网络在深度学习领域的最新研究进展和主要研究方向，分析了其在计算效率和适应性等方面的优势，总结了架构设计、决策方案、优化技术和应用开发等方面的研究问题以及未来发展的方向。

Feb, 2021

DynamoNet：动态动作和运动网络

本文提出新的动态滤波器和动态运动表示（DMR）以改善人类动作识别，并使用 3D 卷积网络和多任务学习方法进行视频分类，实验结果表明 DynamoNet 对所有数据集具有很好的分类效果。

Apr, 2019

动态卷积：卷积核的注意力机制

提出一种名为 Dynamic Convolution 的新设计，基于卷积核的注意力动态地聚合多个并行卷积核，从而增加模型复杂度，提高卷积神经网络的表示能力，有效提高 MobileNetV3-Small 模型在 ImageNet 分类任务上的精度。

Dec, 2019

使用 CNN 滤波器学习 FRAME 模型

本文从生成的角度研究了卷积神经网络，提出了一种学习基于卷积层过滤器的生成 FRAME 模型的方法，并说明了每个学习的模型对应于上面一层的新 CNN 单元，最终展示了利用这样的生成 CNN 模型学习新的 CNN 单元的可能性，学习算法允许使用二元潜变量的 EM 解释。

Sep, 2015

基于节点可变图滤波器的卷积神经网络

本文介绍了一种基于图的 CNN 架构，采用节点变化的 GF 代替传统卷积，通过局部操作提取不同的本地特征，以解决在不规则域中信号处理的问题，并在综合实验中进行了测试。

Oct, 2017

快速的端到端可训练引导滤波器

本文介绍了一种基于改进 FCN 的新型构建块 —— 引导滤波层，以及结合该层的像素级别图像预测框架 DGF，并在该框架上取得了比现有方法具有更快速度和更高性能的结果。

Mar, 2018

自适应动态滤波网络用于图像去噪

本研究提出了一种用于改善高频和多尺度特征学习的动态卷积算法，其中采用了增强空间上下文信息的核生成模块 (SEKG) 以及动态卷积块 (DCB) 和多尺度动态卷积块 (MDCB)。此外，还提出了多维特征集成 (MFI) 机制，旨在融合多尺度特征，从而提供具有精确性和丰富上下文特征的表征。最终，使用所提出的算法构建的 ADFNet 在真实世界和合成高斯噪声数据集上取得了更好的性能，且具有较低的计算复杂度。

Nov, 2022

自适应增长：实时卷积神经网络层扩展

基于数据输入，本研究提出了一种新算法，允许卷积神经网络的卷积层在动态环境下进行演化，并无缝地整合到现有的 DNNs 中。通过引入核函数，迭代性地评估图像特征的识别能力，本方法在多个数据集上展示了优于监督方法的表现，并在迁移学习场景中展示了增强的适应性，填补了深度学习中对于动态环境更灵活高效的 DNNs 的空白。

Sep, 2023