MMMar, 2024

神经网络的数学（研究生课程讲义）

PDF
TL;DR这篇研究论文是一门名为《神经网络导论》的课程的讲义，旨在向研究生数学学生介绍神经网络，并使他们对进一步研究神经网络感兴趣。该课程分为两部分：第一部分是关于深度学习的总体介绍，以形式化数学的方式引入该领域；第二部分介绍李群和齐次空间的理论，并说明如何将其应用于设计具有良好几何等变性的神经网络。讲义力求自包含，适合具备适度数学基础的学生。课程还包括使用 Jupyter 笔记本的编程教程和作业，具体内容可在提供的链接中公开获取。
发现论文，激发创造
  • 深度学习与计算物理（讲义）

    本篇论文介绍了深度学习在计算物理学中的应用，结合了线性代数和偏微分方程等数学概念，利用计算物理学的技术和算法，开发了多种深度学习算法，为模拟物理现象的建模提供了辅助工具。

    Jan, 2023

  • 深度学习的数学导引：方法、实现和理论

    该研究论文介绍了深度学习算法的主题，包括不同的人工神经网络架构、优化算法和理论方面，同时讨论了用于偏微分方程的深度学习逼近方法。

    Oct, 2023

  • 机器学习与量子设备

    简单介绍了神经网络和深度学习的基础知识，以及它们在量子领域中的应用，重点关注于强化学习和量子信息处理机对机器学习加速的应用。

    Jan, 2021

  • 深度学习和几何深度学习：数学家和物理学家的介绍

    本文是介绍深度学习、几何深度学习和图神经网络的简要论文，重点介绍了评分函数和损失函数这些算法的关键成分，以及模型训练的主要步骤。

    May, 2023

  • 神经网络架构讲义

    这篇论文从数学角度概述了神经网络结构，尤其是把神经网络看作是一个优化问题。涵盖了前馈神经网络，卷积神经网络，ResNet 和循环神经网络等结构。

    Apr, 2023

  • 神经网络机器学习数学理解的探究：已知与未知

    本文综述了近年来人工神经网络和机器学习领域所取得的进展和对于成功和微妙性的理解，通过数值实验和简化模型的分析，以及严谨的数学结果，讨论对于这个快速发展领域最重要的开放性问题。

    Sep, 2020

  • 深度神经网络的学习曲线：高斯场理论视角

    使用一种物理学方法对深度学习进行研究，通过重整化群、Feynman 图和副本构造了一个多功能场论形式体系用于分析高度超参数化情况下的深度学习，研究表明 DNNs 除了高度超参数化外，仍然具有解释性和预测性 —— 偏向于简单函数。

    Jun, 2019

  • 几何深度学习：网格、群、图、测地线和规范

    通过统一的几何原理，深度学习可以更好地揭示基本规律，提供数学框架来研究卷积神经网络、循环神经网络、图神经网络和变压器网络等神经网络，且可以将物理学知识结合到神经网络结构中，从而提供了未来神经网络结构的原则性方法。

    Apr, 2021

  • 不可微仙境中的艾丽丝之旅 -- 第一卷，游览大地

    本论文是一本关于设计现代（深度）神经网络的自包含介绍，重点是构建处理 n 维数据的高效模块，包括卷积、transformer、图层和现代循环模型，作者在理论、代码、历史考量和最新趋势之间取得了良好的平衡。

    Apr, 2024

  • 深度学习的现代数学

    我们描述了深度学习数学分析的新领域，涉及到超参数神经网络的普适性，深度对于网络的作用，感知问题的缺失，问题优化性能的成功和架构的各个方面对学习任务的影响，并提供了现代方法的概述和详细的主要思想。

    May, 2021