Mar, 2023

深度学习中的数学挑战

PDF
TL;DR深度学习在 AI 工业中占据主导地位，但其规模不断扩大也带来了一些从训练到推理、泛化到优化等方面的新挑战，本文总结了这些挑战并提出了一些解决方案，为数学家、统计学家和理论计算机科学家讨论该领域的研究问题提供了一些主观观点，有助于其在技术产业中的长期应用。
发现论文，激发创造
  • 深度学习与最新应用的调查

    综述了深度学习在计算机视觉、自然语言处理、时间序列分析和普适计算领域的最新模型以及其在解决各个领域问题中的有效性，并介绍了深度学习的基础知识、各种模型类型以及重要的卷积神经网络架构，并讨论了深度学习研究的挑战和未来方向。

    Mar, 2024

  • 深度学习的现代数学

    我们描述了深度学习数学分析的新领域，涉及到超参数神经网络的普适性，深度对于网络的作用，感知问题的缺失，问题优化性能的成功和架构的各个方面对学习任务的影响，并提供了现代方法的概述和详细的主要思想。

    May, 2021

  • 深度学习的计算界限

    通过对深度学习应用的依赖程度的分析，本文发现目前的进展主要依赖计算能力的提升。然而，这种趋势在经济、技术和环境上都具有不可持续性。因此，要想在这些应用领域取得更进一步的进展就必须依靠更为高效的计算方法，这要么意味着改变深度学习的方法，要么就是使用其他机器学习方法。

    Jul, 2020

  • 深度学习在数学推理中的应用概述

    本文综述了过去十年在数学推理和深度学习交叉领域中的关键任务、数据集和方法，评估了现有的基准测试和方法，并讨论了该领域的未来研究方向。

    Dec, 2022

  • 深度学习：关键评估

    本文归纳了深度学习的历史、神经网络，针对五年来在语音识别、图像识别、游戏等领域中的进展，列举了十个深度学习的问题，并建议结合其他技术实现人工智能总体上的发展。

    Jan, 2018

  • 深度学习与人工通用智能：仍有很长的路要走

    批判性地探讨深度神经网络 (DNN) 作为实现人工通用智能的技术选择的可行性，并给出了五个主要的原因进行支撑，表明 DNN 目前还不适合成为实现人工通用智能的选择。

    Mar, 2022

  • 深度学习在人工智能中的非凡有效性

    深度学习网络在语音识别、图像描述和语言翻译等方面的高性能表现是由于它们利用高维空间的几何特性，然而它们究竟能否推广到实现全面的人工智能，以及和大脑规划和生存相关的其他区域的灵感还需做出重大突破。

    Feb, 2020

  • 深度学习数学

    本文综述了近期深度神经网络在识别系统方面表现出的很高的性能，以及为数不多的数学解释其成功的理由，如全局最优性、几何稳定性和表示学习的不变性。

    Dec, 2017

  • 生成人工智能的挑战与机遇

    我们旨在识别现代生成 AI 范例中尚未解决的主要挑战，以进一步增强其能力、多样性和可靠性，并为研究人员提供有价值的见解，以探索更有成效的研究方向，从而促进更强大和可访问的生成 AI 解决方案的发展。

    Feb, 2024

  • 模拟深度学习的前景：最新进展、挑战和机遇

    本研究对八种不同的类比深度学习方法在多个关键参数上进行了全面的评估和说明，包括达到的准确性水平、应用领域、算法进步、计算速度以及能量效率和功耗的考虑。我们还通过对不同类比深度学习方法实现的神经网络实验的比较性能和当前限制的分析，发现类比深度学习在未来的消费级应用具有巨大潜力，但在可扩展性方面仍有很长的路要走。大多数当前的实现更多是概念验证，尚不能实际应用于大规模模型。

    Jun, 2024