神经网络中的深度学习概述

Apr, 2014

Deep Learning in Neural Networks: An Overview

Juergen Schmidhuber

TL;DR这篇文章总结了深度神经网络在模式识别和机器学习中的应用，包括深度监督学习、无监督学习和强化学习，在搜索深层网络的过程中进行了间接搜索。

Abstract

In recent years, deep artificial neural networks (including recurrent ones) have won numerous contests in pattern recognition and machine learning. This historical survey compactly summarises relevant work, much of it from the previous millennium. Shallow and deep learners are distingu

deep neural networks pattern recognition deep supervised learning unsupervised learning reinforcement learning

发现论文，激发创造

深度学习的选择性概述

介绍了深度学习和神经网络模型（如卷积神经网络、递归神经网络、生成对抗网络）以及训练技术（如随机梯度下降、dropout、批量归一化）的统计学观点，强调了深度学习的新特征（包括深度和过参数化）及其实际和理论上的好处，同时探讨了深度学习的理论基础和最新研究成果；期望为新的统计研究提供一种思路。

Apr, 2019

深度学习系统作为复杂网络

该文章使用复杂网络中常用的技术研究了深度置信网络，以期获得从学习过程中得到的计算图的结构和功能特性的一些见解。

Sep, 2018

深度学习：关键评估

本文归纳了深度学习的历史、神经网络，针对五年来在语音识别、图像识别、游戏等领域中的进展，列举了十个深度学习的问题，并建议结合其他技术实现人工智能总体上的发展。

Jan, 2018

深度学习的起源

本文综述了深度学习模型的演化历程，从神经网络的起源到如今的卷积神经网络、深度置信网络和循环神经网络，分析了这些模型的发展过程和思想，为深度学习提供了全面的背景和未来研究的指导方向。

Feb, 2017

计算化学中的深度学习

本文综述了深度神经网络在计算化学等领域中的广泛应用和优越表现，强调它作为一种有价值的机器学习工具在未来将发挥重要作用。

Jan, 2017

应用导向的深度学习方法中的持续学习

该论文介绍了人工智能中机器学习的相关概念，特别介绍了称为深度神经网络（DNNs）的一种深度学习模型，它具有多个人工神经元和层级结构，但容易受到所谓的 “灾难性遗忘”（CF）效应的影响，它还介绍了对抗 CF 效应的各种技术，以实现持续学习的目标。

Jul, 2022

源于 AlexNet 的历史：深度学习方法的全面调查

本文综述了深度学习方法的发展历程及其在图像处理、语音识别、智能控制等多个应用领域的优异表现，并讨论了深度学习方法中的各种高级技术，如深度神经网络、卷积神经网络、长短期记忆网络等。同时，本文还提供了近期开发的框架、软件开发工具以及评估数据集来帮助开发者实现和评估深度学习方法。

Mar, 2018

深度学习与最新应用的调查

综述了深度学习在计算机视觉、自然语言处理、时间序列分析和普适计算领域的最新模型以及其在解决各个领域问题中的有效性，并介绍了深度学习的基础知识、各种模型类型以及重要的卷积神经网络架构，并讨论了深度学习研究的挑战和未来方向。

Mar, 2024

深度学习：教程

通过使用深度学习方法对结构化的高维数据进行深入研究，我们得出一种预测规则，利用半仿射输入转换的层次结构生成一组属性或特征，然后应用概率统计方法，实现可伸缩的带有不确定性量化的预测规则，其中稀疏正则化找到了这些特征。

Oct, 2023

深度学习综述：架构、应用和最新趋势

本文概述了深度学习的一些关键多层人工神经网络以及使用多智能体方法的新型自动体系结构优化协议；以及深度学习在异常行为检测、预测和预测分析、医学图像处理和分析、电力系统研究等应用领域的探索性调查。

May, 2019