本研究提出一种新型的基于 Riemannian 同质空间函数样本的高阶 Volterra 卷积神经网络 (VolterraNet)，实现了对模型的对称性以及卷积操作的泛化，在有关分类任务的实验中，与其他先进模型相比，取得了较好的性能，为传统卷积神经网络提供了新思路。

Jun, 2021

通过提出一种新的方法来实现低内存和计算成本的高阶 Volterra 滤波，在 DCNN 训练的前向和反向传播过程中具有计算优势，并基于该方法提出了一种名为 Higher-order Local Attention Block（HLA）的新型注意力模块，并在 CIFAR-100 数据集上进行了测试，显示了在分类任务中的有竞争力的改进。

Apr, 2024

预测具有随机波动率的 Volterra 过程的条件演变是数学金融中的关键挑战，我们提出了一种两步解决方案，通过稳定的降维技术和适合流形几何的逐步深度学习模型来近似投影 Volterra 过程的条件律。

May, 2024

研究表明，在计算模型的视觉皮层中开发基于 Volterra 核的二阶卷积方法，可以增加卷积层的表达能力，在 CIFAR-10 和 CIFAR-100 数据集上，使用线性和非线性滤波器相结合的卷积网络可以超越使用相同体系结构的标准线性滤波器的网络的性能，取得与最先进水平相当的结果。

Aug, 2017

本文提出了基于贝叶斯卷积神经网络的变分推断方法，通过引入欠拟合和过拟合的概率分布来解决神经网络普遍存在的预测不确定性问题，并在图像分类等任务上进行了实验测试。

Jan, 2019

复杂值神经网络（CVNNs）涵盖了波状信息和频域处理的不同结构和分类，并解释了复杂激活函数、复杂可微性的相关含义以及 CVNN 输出层的特殊激活。还讨论了使用基于梯度和非梯度的算法进行 CVNN 学习和优化的情况。此外，通过 Wirtinger 微积分术语解释了利用复杂链规则的复杂反向传播。还讨论了用于构建 CVNN 模型的特殊模块，如复杂批归一化和复杂随机初始化。该工作还强调了提出的用于 CVNN 实现的库和软件模块，并讨论了未来的发展方向。本研究的目标是理解 CVNN 的动态和最新发展。

Dec, 2023

通过在卷积神经网络中引入对流，以及使用反应扩散神经元组件构建一个模拟反应 - 对流 - 扩散方程的高维网络，我们提出了一个物理上启发的体系结构来解决物理科学中基于时空序列的预测问题，并展示了该网络在一些时空数据集上的有效性。

Jun, 2024

本文提出了一种新的神经网络结构，旨在避免消失／爆炸梯度问题，既解决了该问题，又取得了比许多其他结构更好的性能表现，它的核心思想是通过滤波和正交加和来实现非线性激活层之间的结合，从而防止梯度消失或爆炸，并成功应用于超过 50k 层和 10k 个时间步长的神经网络任务。

Oct, 2022

本文提出了一种基于波浪变换、线性非线性映射、平移不变性和形变稳定性的特征提取器，可以适用于不同的网络层，并且在网络深度增加时特征越来越具有平移不变性；同时，本文还建立了对带限函数、卡通函数和 Lipschitz 函数等信号类应用的变形敏感度边界。

Dec, 2015

本文介绍了一种名为扰动层的替代卷积层的模块，通过实验证明这种扰动层可以有效地替代传统的卷积层，在多个视觉数据集上与标准 CNNs 性能相当，且拥有更少的参数。

Jun, 2018