基于 CNN 学习的非线性卷积滤波器

ICCVAug, 2017

基于 CNN 学习的非线性卷积滤波器

Non-linear Convolution Filters for CNN-based Learning

Georgios Zoumpourlis, Alexandros Doumanoglou, Nicholas Vretos, Petros Daras

TL;DR研究表明，在计算模型的视觉皮层中开发基于 Volterra 核的二阶卷积方法，可以增加卷积层的表达能力，在 CIFAR-10 和 CIFAR-100 数据集上，使用线性和非线性滤波器相结合的卷积网络可以超越使用相同体系结构的标准线性滤波器的网络的性能，取得与最先进水平相当的结果。

Abstract

During the last years, convolutional neural networks (CNNs) have achieved state-of-the-art performance in image classification. Their architectures have largely drawn inspiration by models of the primate visual system. However, while recent research results of neuroscience prove the ex

convolutional neural networks non-linear operations quadratic forms volterra kernels cifar-10 and cifar-100

发现论文，激发创造

Kervolution 神经网络

本文介绍了一种新的 kervolution 运算，该方法可以在非线性空间内运行，扩展了卷积神经网络的模型容量，捕捉更高阶的特征交互，并通过基于补丁的核函数实现，而不引入额外参数。大量实验表明， kervolutional neural networks (KNN) 比基线卷积神经网络具有更高的准确性和更快的收敛速度。

Apr, 2019

深度学习中小卷积核的高效高阶卷积

通过提出一种新的方法来实现低内存和计算成本的高阶 Volterra 滤波，在 DCNN 训练的前向和反向传播过程中具有计算优势，并基于该方法提出了一种名为 Higher-order Local Attention Block（HLA）的新型注意力模块，并在 CIFAR-100 数据集上进行了测试，显示了在分类任务中的有竞争力的改进。

Apr, 2024

卷积神经网络中高效二次神经元的表达能力增强

本文提出了一种高效的二次神经元结构，能够提高卷积神经网络的表现，并在分类任务中实现了更高的精度和更好的计算效率。

Jun, 2023

二阶卷积神经网络

本文提出一种新颖的卷积神经网络（CNN）类，它利用二阶统计量，可以形成协方差描述符单元（CDU），可以替代标准 CNN 的全连接层，并在参数少至 90％的情况下优于一阶 CNN。

Mar, 2017

非线性卷积网络的高效准确近似

本文旨在加速深度卷积神经网络的测试时间计算，通过最小化非线性响应的重建误差，附加一种低秩约束，以帮助降低过滤器的复杂度，该算法可以减小多层输入的叠加误差并提高模型精度，可将 ImageNet 的训练速度提升 4 倍，精度提高 4.7%。

Nov, 2014

SelectionConv: 针对非矩形图像数据的卷积神经网络

本论文提出了一种新的结构化图卷积算子，可以复制二维卷积权重，将传统 CNN 训练的能力转移到新的图网络，从而可以处理非矩形数据，不需要在大型数据集上进行领域特定的训练。作者还展示了将预训练图像网络应用于分割、风格化和深度预测等多种数据形式，并得出了相应的实验结果。

Jul, 2022

线性解释引导下的卷积网络导览

通过研究 LinearScope 中的线性译者，许多好奇的问题得以回答，例如分类使用的一像素一票策略、CNN 使用与人类视觉系统类似的小波基、I2I 中的复制 - 移动和模板创建策略等。

Aug, 2019

使用卷积神经网络进行功能数据学习

使用卷积神经网络（CNN）对嘈杂和非嘈杂的函数数据进行回归和分类学习问题，通过将函数数据转换为 28 乘以 28 的图像，采用特定的卷积神经网络架构进行参数估计和函数形式分类的回归案例研究，应用于混沌数据的李雅普诺夫指数估计、疾病传播率估计、药物溶解剖面的相似性检测以及帕金森病患者检测等问题，该方法简单但准确率高，有广泛的工程和医学应用前景。

Oct, 2023

微扰神经网络

本文介绍了一种名为扰动层的替代卷积层的模块，通过实验证明这种扰动层可以有效地替代传统的卷积层，在多个视觉数据集上与标准 CNNs 性能相当，且拥有更少的参数。

Jun, 2018

二阶信息对大规模视觉识别有用吗？

该论文提出了一种基于高级特征的协方差汇集方法，即 Matrix Power Normalized Covariance (MPN-COV)，并在 ImageNet 上的测试中表现出了显著的成果，特别是在 AlexNet，VGG-M 和 VGG-16 的情况下，MPN-COV 方法可以使性能提高超过 3％，并且与 ResNet-152 相媲美。

Mar, 2017