引入一种新的可学习模块 ——Spatial Transformer，能够在现有的卷积网络结构中显式地允许对数据进行空间操作，从而使得模型得以学习对于平移、缩放、旋转以及基于更一般的扭曲变换的不变性，其模型表现在多个基准测试数据集上达到了最先进的水平。

Jun, 2015

本文提出了一种新的基于 SPN 和深度神经网络的概率深度学习模型，称为 RAT-SPNs，该模型具有充分评估数据似然，任意边缘化和条件任务的优势，并且仍然可解释为生成模型，并保持了良好的校准不确定性，从而使其高度鲁棒性和自然地检测异常值和独特样本。

Jun, 2018

通过与时空模型的交叉研究，本文探索了脉冲神经网络在长范围序列建模方面的潜力，并证明其在各种任务和图像分类方面均优于当前最先进的神经网络模型，为在神经形态学硬件上实现高效能耗的长范围序列建模奠定了基础。

Dec, 2023

提出了一种基于运动预测领域知识的网络网格表示方法，将网络整体交通速度转换为静态图像，并输入一种新的深度体系结构 —— 时空循环卷积网络 (SRCNs)，可以用于交通预测，实验证明其在短期和长期交通预测方面优于其他基于深度学习的算法。

May, 2017

本文提出了利用循环变压器网络（RTNs）对语义相似图像进行密集对应的方法，在迭代过程中估计图像间的空间变换，以及使用这些变换来生成对齐的卷积激活，通过直接估算两幅图像间的变换，而非独立正则化每个图像，我们证明了更高的精度可以得到，同时使用一种基于提出的分类损失的弱监督训练技术。利用 RTNs，在语义对应的多个基准测试中，实现了最先进的性能。

Oct, 2018

本文提出了一种新的置换不变网络用于 3D 点云处理，该网络由循环集编码器和卷积特征聚合器组成，对于无序点集，使用循环神经网络（RNN）对其进行编码并将功能集成到 2D 卷积神经网络（CNN）中，用于层次化特征聚合，该网络在空间特征学习方面表现出色，在多个基准测试中表现优异， 与最新技术水平相比也更加高效。

Nov, 2019

整合了 CNN 和 RNN 以捕捉时空相关性的方法被广泛应用于时空预测任务中。然而，CNN 学习局部空间信息的特性降低了其捕捉时空相关性的效率，从而限制了其预测准确性。本文中，我们提出了一种新的循环单元 SwinLSTM，它与 Swin Transformer 块和简化版的 LSTM 相结合，用自注意力机制替代了 ConvLSTM 中的卷积结构。此外，我们构建了一个以 SwinLSTM 单元为核心的网络用于时空预测。在 Moving MNIST、Human3.6m、TaxiBJ 和 KTH 数据集上，SwinLSTM 在没有使用特殊技巧的情况下，表现优于最先进的方法，特别在预测准确性方面展现了显著的提升。我们的竞争性实验结果证明了对模型捕捉时空相关性来说学习全局空间依赖性的优势，希望 SwinLSTM 能成为推动时空预测准确性进步的坚实基准。代码可在给定的 URL 中公开获取。

Aug, 2023

本文介绍了多维循环神经网络 (MDRNNs) 的概念，扩展了循环神经网络 (RNNs) 在视觉、视频处理、医疗影像等领域的应用，同时避免了其它多维模型所面临的缩放问题。笔者提供了两个图像分割任务的实验结果。

May, 2007

本文提出了一种基于二进制操作的有效循环神经网络架构 PixelRNN，利用新型图像传感器的编程能力和最小处理能力直接在传感器上对时空特征进行编码，相对于传统系统，PixelRNN 将需要传输的数据量降低了 64 倍，同时在手势识别和读唇任务上实现了有竞争力的准确性。经过在 SCAMP-5 传感器处理平台上的原型实现的实验证实。

Apr, 2023

本研究探索了一种新的扩散模型结构，利用变压器替代传统扩散模型中常用的 U-net 结构，以提供基于脉冲神经网络的生成模型的实证基线。实验结果表明，所提出的方法在 MNIST，Fashion-MNIST 和 CIFAR-10 数据集上与现有的脉冲神经网络生成模型具有很高的竞争力。

Feb, 2024