深度卷积神经网络的普适性

May, 2018

Universality of Deep Convolutional Neural Networks

Ding-Xuan Zhou

TL;DR本研究破解了学习理论中的一道难题，证明了深度卷积神经网络（CNN）是通用的，可以通过增加深度来达到任意精度的连续函数逼近，并且在处理大维度数据方面非常高效。同时我们的研究证明了卷积在深度 CNN 中的重要作用。

Abstract

deep learning has been widely applied and brought breakthroughs in speech recognition, computer vision, and many other domains. The involved deep neural network architectures and computational issues have been well studied in machine learning. But there lacks a theoretical foundation f

deep learning convolutional neural network learning theory approximation universal

发现论文，激发创造

深度卷积神经网络最近的架构调查

本文从深度卷积神经网络的内在分类入手，将现有研究成果归纳为七大类，即空间利用、深度、多路径、宽度、特征图利用、通道增强和注意力，同时介绍 CNN 组件的基础理解、当前挑战和应用领域。

Jan, 2019

深度神经网络逼近不变函数的近似度和复杂度

该研究在理论上研究了深度神经网络在不变函数中的逼近和复杂度特性，证明了不变函数可以被各种类型的神经网络模型进行渐近逼近，并且提供应用于高分辨率信号的参数估计和预测的技术。

Oct, 2022

卷积神经网络的近期进展

这篇论文总结了深度学习中最广泛研究的卷积神经网络在不同方面的改进方法和优化技术，并介绍了其在计算机视觉、语音和自然语言处理等领域的应用。

Dec, 2015

计算机视觉深度卷积神经网络分类

该研究论文探讨了计算机视觉问题中使用深度学习技术的发展趋势，着重介绍了卷积神经网络（CNNs）及其应用，帮助初学者了解何种深度网络适用于计算机视觉问题。

Jan, 2016

卷积神经网络综述：分析，应用和前景

本文综述了卷积神经网络的历史，概述了卷积神经网络的结构，介绍了一些基础和高级模型，并通过实验分析总结了一些适用函数的经验法则。此外，本文还涵盖了一维、二维和多维卷积的应用，并讨论了卷积神经网络面临的一些问题和未来的方向。

Apr, 2020

深度学习中卷积的综合调查：应用、挑战和未来趋势

在这篇论文中，我们全面考察并比较了不同的卷积神经网络架构，重点强调了它们的结构差异以及各自的优势、劣势、应用、挑战和未来趋势。

Feb, 2024

卷积神经网络和全连接网络的逼近等价性

本文在卷积神经网络与全连接网络的数学分析中建立起联系，并指出了两者在函数逼近率上具有本质上相同的界限，同时研究了不进行池化运算且基于循环卷积的卷积神经网络的逼近率。

Sep, 2018

双卷积神经网络

本文提出了一种新的卷积神经网络模型，称为双卷积神经网络，该模型通过共享权重参数进行优化，在图像分类领域有着显著的性能提升。在 CIFAR-10，CIFAR-100 和 ImageNet 等图像分类基准测试中，该模型的性能均显著优于其他竞争模型。同时，本文还说明了双卷积神经网络在多方面性能均有体现，既可以构建更准确的模型，又可以以牺牲一定准确性的代价来减少模型的内存占用。

Oct, 2016

CNN 为什么在特征提取方面表现出色？数学解释

该研究提出了一种新的基于特征提取的图像分类数学模型，并通过构建分段线性函数以检测特征的方式证明卷积神经网络可以零误差地解决这些图像分类任务。

Jul, 2023

从特征提取角度的 CNN 逼近分析

本文利用深层多通道卷积神经网络分析了线性特征提取，展示了深度学习在传统线性变换如傅立叶、小波和冗余字典编码方法之上的优越性，并提出了一种有效的线性特征提取构造方法。同时，研究了采用通道实现深度网络较低的实质维数的函数逼近速率，因子化线性特征为多分辨率卷积的谐波分析在本研究中具有重要作用。此外，文章还构建了一种矩阵的专用向量化，桥接了一维 CNN 和二维 CNN，并允许我们进行相应的二维分析。

Oct, 2022