使用循环扩张卷积神经网络分类长的连续数据

Jan, 2022

使用循环扩张卷积神经网络分类长的连续数据

Classification of Long Sequential Data using Circular Dilated Convolutional Neural Networks

Lei Cheng, Ruslan Khalitov, Tong Yu, Zhirong Yang

TL;DR本文提出了一种基于循环膨胀卷积神经网络（Circular Dilated Convolutional Neural Network，CDIL-CNN）的对称多尺度架构，旨在解决长序列数据分类问题中 TCN 方法因使用不平衡连接协议和类别输出限制性等问题表现不佳的问题。研究者使用 CDIL-CNN 在多个长序列数据集上进行了测试，结果表明其较之前其他方法表现更出色。

Abstract

Classification of long sequential data is an important Machine Learning task and appears in many application scenarios. Recurrent Neural Networks, Transformers, and Convolutional Neural Networks are three major techniques for learning from sequential data. Among these methods, Temporal

temporal convolutional networks cdil-cnn sequence classification ensemble learning long sequential data

发现论文，激发创造

多尺度膨胀卷积网络用于长期时间序列预测

通过使用浅层扩张卷积架构以捕捉长时间序列的周期性和趋势特征，我们提出了多尺度扩张卷积网络 (MSDCN) 的方法，并设计了具有指数增长扩张和不同卷积核大小的不同卷积块来在不同尺度上采样时间序列数据。此外，我们利用传统的自回归模型来捕捉数据内的线性关系。通过在八个具有挑战性的长期时间序列预测基准数据集上进行实验证明，我们的方法优于先前的最先进方法，并与几种强基准方法相比显示出显著的推理速度改进。

May, 2024

时间序列分类的多尺度卷积神经网络

提出了一种基于多尺度卷积神经网络的时间序列分类模型，该模型将特征提取和分类集成在一个框架中，具有较高的准确性和计算效率，并在大量基准数据集上进行了全面的实证评估，取得了优于其他先进方法的性能。

Mar, 2016

基于语义单元的膨胀卷积用于多标签文本分类

该研究提出了一种基于序列到序列学习的多标签文本分类模型，其使用了多级膨胀卷积和相应的混合注意机制来生成更高级的语义单元表示，并且有效地减少了维度和支持了接收域的指数级扩展。实验结果表明，该模型在数据集 RCV1-V2 和 Ren-CECps 上具有显著优势，并且分析表明该模型与确定性分层模型相当，同时更具有对低频标签进行分类的鲁棒性。

Aug, 2018

卷积序列到序列学习

利用卷积神经网络架构完全替代了循环神经网络的流行序列到序列学习方法，运用门控线性单元简化了梯度传播，为每个解码器层装备了单独的注意力模块，在 GPU 和 CPU 上取得了比 Wu 等人（2016）更高的准确性和十倍以上的速度。

May, 2017

CKConv：连续核卷积用于序列数据

本文提出一种新的卷积神经网络架构，通过将卷积核建模为连续函数，解决了传统神经网络处理序列数据时的梯度爆炸、记忆短视、非定长序列等问题，并在多个数据集上获得了最先进的结果。

Feb, 2021

长期循环卷积网络用于视觉识别和描述

研究比较深度卷积网络和带有循环结构的深度卷积神经网络的效果，针对视频识别、图像描述、检索以及视频叙事方面的问题，开发出一种新颖的循环卷积架构，该架构可以训练端到端，可以同时学习时间动态和卷积感知表示，并具有学习长期依赖性的能力。实验结果证明，循环卷积模型在识别或生成方面与现有的模型相比具有明显的优势。

Nov, 2014

超越短片段：用于视频分类的深度网络

本论文提出和评估了几个深度神经网络架构，用于对比以往更长时间段内视频图像信息的组合。通过一些新的方法，包括卷积时间特征池化和循环神经网络结构，该论文指出最佳神经网络在 Sports 1 million 数据集（73.1％对 60.9％）和 UCF-101 数据集中（88.6％对 88.0％）及无附加光流信息（82.6％对 72.8％）上明显性能提高。

Mar, 2015

有效的文本分类卷积特征串行学习

本文主要研究了深度学习中卷积神经网络在文本分类中的局限性，提出了一种基于序列卷积注意力递归网络（SCARN）的新模型，在多种文本分类任务中均取得了优异的表现，且参数数量较少，同时超越了其他很多深度 CNN 和 LSTM 模型的性能。

Aug, 2019

NAC-TCN: 基于因果稀疏邻域注意力的时序卷积网络用于情感理解

视频情感识别是通过一系列方法如 GRUs、LSTMs、自注意力机制、Transformers 和 TCNs 改善了基于视频情感识别，然而这些方法存在内存使用高、操作量大或梯度下降不良的问题。我们提出了一种称为邻域注意力与卷积 TCN（NAC-TCN）的方法，它结合了注意力和时序卷积网络的优点，并确保理解因果关系，从而减少计算和内存成本。我们的模型在标准的情感识别数据集上比 TCNs、TCAN、LSTMs 和 GRUs 取得了相当好或最先进的性能，并且需要较少的参数。我们在线发布了我们的代码，以便其他项目能够轻松复现和使用。

Dec, 2023

文档图像分类卷积神经网络分析

通过对卷积神经网络 CNNs 模型对文件图像分类任务的研究，我们发现使用剪切变形的数据扩增和一个针对更大输入图像设计的架构，可以超过基准数据集的现有技术，并且我们发现使用 RVL-CDIP 训练的 CNNs 可以学习区域特定的布局特征。

Aug, 2017