深度卷积神经网络设计模式
本文从深度卷积神经网络的内在分类入手,将现有研究成果归纳为七大类,即空间利用、深度、多路径、宽度、特征图利用、通道增强和注意力,同时介绍 CNN 组件的基础理解、当前挑战和应用领域。
Jan, 2019
本文概述了深度学习的一些关键多层人工神经网络以及使用多智能体方法的新型自动体系结构优化协议;以及深度学习在异常行为检测、预测和预测分析、医学图像处理和分析、电力系统研究等应用领域的探索性调查。
May, 2019
该研究论文探讨了计算机视觉问题中使用深度学习技术的发展趋势,着重介绍了卷积神经网络(CNNs)及其应用,帮助初学者了解何种深度网络适用于计算机视觉问题。
Jan, 2016
通过研究深度神经网络中的残差连接,提出了一种平行浅层架构的替代方案,通过在 Taylor 级数表达式中截断高阶项,发现广而浅的网络架构在性能上与传统的深层架构相当,这一发现有望简化网络架构、提高优化效率并加速训练过程。
Sep, 2023
本文提出了一种新颖的前向传播算法,其灵感来源于 ODE 系统,能够克服深度神经网络设计和训练中的挑战,并通过对稳定性和合理性的分析,发展了新的网络架构,以稳定深度学习,且具有竞争力。
May, 2017
本文旨在比较和描述神经网络结构在几何和拓扑方面的内部表示和层间数据流动的拓扑和几何动态变化,并使用拓扑数据分析和持久性同调分形维数的概念,通过不同层次的数据集以及卷积神经网络和转换网络在计算机视觉和自然语言处理任务中的各种配置的广泛实验,为可解释的和可解释的 AI 的发展做出了贡献。
Jun, 2023
本文提供了对现有技术的卷积神经网络分析和拓扑构建的全面概述,并描述和评估了一些层次分类器。此外,本文还开发了一种可视化分类错误的新方法,并在 CIFAR-100 上量化了一些结果,如在精度方面较小批量大小、平均集成、数据增强和测试时间转换等的积极影响。本文还开发了一个模型,它只有 100 万个学习参数,适用于 32x32x3 和 100 类输入,并在基准数据集 Asirra、GTSRB、HASYv2 和 STL-10 上击败了现有技术。
Jul, 2017
通过一次性神经网络结构搜索,研究了对对抗攻击弹性更强的网络结构模式,并基于这些模式提出了一族更具弹性的网络结构 RobNets。这些结构在多个数据集上表现出更优异的弹性表现,即使具有更少的参数数量,在白盒和黑盒攻击下都表现出 5% 的绝对收益。
Nov, 2019
本文研究了视觉模式挖掘的问题,并提出了一种名为 PatternNet 的新型深度神经网络结构,用于发现具有辨别性和代表性的模式。使用卷积神经网络中的卷积层滤波器来查找局部一致的可视化块,通过组合这些过滤器,我们可以有效地发现独特的视觉模式,从而提高了视觉识别的性能和效率。
Mar, 2017
本研究提出了一种有利于评估不同卷积神经网络体系结构的系统性语言,该语言能够在训练前进行比较,本研究使用该语言在两个具体的基于计算机视觉的物理问题上,解决了事件顶点查找和强子多重性分类问题,同时提取了优化网络架构中的几个架构属性,使用机器学习模型对其进行了预测。
Jan, 2020