- 基于 SSA 优化的 ResNet50-BiGRU 模型的图像异常检测和预测方案
通过结合 Residual Network 和 Bidirectional Gated Recurrent Unit 网络,在通过分析图像中的肌肉和骨骼姿势的变化,该研究提出的模型可以预测潜在的受伤类型,并在图像异常检测上取得了最小的误差, - SERNet-Former:利用注意力增强门和注意力融合网络的高效残差网络进行语义分割
基于最近在语义分割中的成功和问题,该研究提出了一种具有高效残差网络的编码器 - 解码器架构,使用注意力增强门和模块来融合基于特征的语义信息与全局上下文,并在解码器部分部署附加的注意力融合网络以提高语义信息的一对一转换的效率。测试结果显示,该 - 基于 RepVGG 和连续小波变换的海杂波中小目标检测
提出了一种 RepVGGA0-CWT 探测器,通过使用连续小波变换 (CWT) 从雷达回波中有效提取时频特征,该探测器在低可控误报率、高训练速度、高推理速度和低内存使用等方面表现优于传统探测器,并适用于实时场景的高推理速度。
- 改进的 CTGAN 用于不平衡磁盘故障数据处理方法
本文提出了一种基于改进的 CTGAN 的故障诊断方法,通过添加一个特定类别分类器和基于残差网络的判别器生成对抗网络,提供了一种可以学习磁盘故障数据内部信息的方法。实验结果表明,RCTGAN 合成的数据进一步提高了分类器的故障诊断精度。
- 解码人类活动:分析可穿戴加速度计与陀螺仪数据进行活动识别
基于 Residual 网络和 Residual MobileNet 集成的分层多结构方法(FusionActNet)能够有效地对不同的人类活动进行分类识别,并在 UCI HAR 和 Motion-Sense 数据集上取得了 96.71% - 带有跳跃连接的贝叶斯卷积神经网络的自由能
本文研究了卷积神经网络在贝叶斯学习框架下使用残差网络和跳跃连接的效果,并表明跳跃连接可降低过度参数化而不牺牲泛化性能。
- 宽残差网络的泛化能力
本文研究了 ReLU 激活函数下宽残差网络在球面上的泛化能力,并且证明了残差网络核(RNK)在宽度趋近于无穷时一致收敛于残差神经切向核(RNTK),最终说明了残差网络的泛化误差总是趋近于 RNTK 的核回归误差,而早停策略下的宽残差网络可以 - 随机正交加性滤波器:深度神经网络梯度消失 / 爆炸问题的解决方案
本文提出了一种新的神经网络结构,旨在避免消失/爆炸梯度问题,既解决了该问题,又取得了比许多其他结构更好的性能表现,它的核心思想是通过滤波和正交加和来实现非线性激活层之间的结合,从而防止梯度消失或爆炸,并成功应用于超过 50k 层和 10k - 在线集成模型压缩技术 —— 基于知识蒸馏
本文提出了一种新颖的基于知识蒸馏的模型压缩框架,在学生集成中启用了同时学习的知识蒸馏,并在压缩的学生模型上蒸馏同时学到的集成知识,该方法在不需要预训练权重的情况下同时训练了压缩学生和集成教师。该方法可以交付多个压缩的学生,并且使用我们的框架 - ECCV通过异构模型集成和 GP-NAS 实现真实图像超分辨率
该论文基于高斯过程的神经架构搜索方案,通过多种不同的网络结构和超参数选择进行模型集成,设计出一个用于实际图像高清化的深度残差网络,在 AIM 2020 实际图像高清化挑战赛上荣获三项第一。
- CVPR单张图像去雾的隐式欧拉 ODE 网络
本文提出了一个高效的端到端多级隐式网络(MI-Net)以解决单图像除雾问题,通过采用多级融合(MLF)机制和残差通道注意块(RCA-block)来提高我们网络的性能。实验表明,该方法在几个除雾基准数据集上优于现有方法,并实现了最先进的性能。
- IJCAI跳连接是否可证明改善神经网络损失函数的梯度图景?
本文通过理论证明,展示了深度学习中残差网络加入跳跃连接可以控制子级集的连接性,且在二层 ReLU 网络的全局最小值以下的任何局部最小值将是非常 “浅” 的,其 “深度” 最多为 O (m^[(η-1)/n]),从而解释了跳跃连接在深度学习中 - AAAI用于长序列快速处理的残差混洗网络
本文提出了一种简单、轻量级的 Shuffle-Exchange 网络变体,它是基于残差网络,采用 GELU 和 Layer Normalization,可以扩展到更长的序列,收敛更快并提供更好的准确性。通过在 MusicNet 数据集上进行 - 自然视频中大幅度改变帧的照片真实视频预测
通过使用深度残差网络结构,利用分层预测和自上而下的连接方法,结合对抗和感性代价函数,提高了基于视频预测的性能以及更真实的图像细节和纹理,特别是在快速相机运动下,未来视频帧的预测性能优于现有基线。
- AAAI图像修复的规模卷积
本文提出了一种新的尺度卷积方式 ——scale-wise 卷积,并基于该方式构建了一个包含多尺度信息的神经网络模型,该模型在图像超分辨率、降噪和压缩伪影去除等图像恢复任务上均表现出色。
- 全分辨率残差网络渐进式图像修复
本文提出了一种基于 FRRN 的失真图像修复方法,采用了逐步恢复的方法,利用残差网络技术实现了特征融合和纹理预测,同时采用了 N Blocks 策略和步长损失函数,取得了在质量和数量上均优于以往文献的效果。
- 走向 Robust ResNet:迈出微小一步,跨越巨大一步
本文提出一种简单而有原则的方法来提高残差网络(ResNet)的鲁棒性,该方法基于动态系统视角,通过显式欧拉方法来控制 ResNet 的步幅 h,可以同时提高其训练和推广的稳健性。
- ICCVJPEG 转换域中的深度残差学习
利用 JPEG 变换域的线性特性重新定义了卷积和批量归一化,实现在压缩图像作为输入的 Residual Network 推断和学习,无损准确性地进行图像分类。
- 高效准确的图像超分辨率宽激活
本文研究了超分辨率的残差网络中宽激活对性能的重要性,提出了 WDSR 模型,并证明其在大规模图像超分辨率基准测试中具有更好的准确性和效率,同时也在 2018 年 NTIRE 单图像超分辨率挑战中取得了好成绩。
- HGR-Net:一种用于手势分割和识别的融合网络
HGR-Net 是一个使用两个 CNN 阶段的手势识别模型。第一阶段执行精确的语义分割以确定手部区域,第二阶段在深度表示的融合分类之前识别手势。通过在公共数据集上进行的大量实验,该模型在静态手势的分割和识别方面几乎达到了与最先进性能相当的效