修正的深度神经网络克服非线性僵硬系统的零和博弈中非平滑价值函数的维度诅咒

Mar, 2019

修正的深度神经网络克服非线性僵硬系统的零和博弈中非平滑价值函数的维度诅咒

Rectified deep neural networks overcome the curse of dimensionality for nonsmooth value functions in zero-sum games of nonlinear stiff systems

PDF

Christoph Reisinger, Yufei Zhang

TL;DR该研究表明，对于具有强刚性系数的广泛控制随机微分方程，相关零和博弈的价值函数可以由深度人工神经网络来表示，该网络的复杂度在状态方程的维度和所需精度的倒数方面都呈多项式增长。

Abstract

In this paper, we establish that for a wide class of controlled stochastic differential equations (SDEs) with stiff coefficients, the value functions of corresponding zero-sum games can be represented by a deep artificial neural network (DNN), whose complexity grows at most polynomially in both the dimension of the state equation and the reciprocal of the re

stochastic differential equations artificial neural network optimal control pdes spdes

发现论文，激发创造

神经网络深度证明在具有恒定扩散和非线性漂移系数的 Kolmogorov 偏微分方程数值逼近中克服了维度灾难

这篇论文揭示了深度人工神经网络在 Kolmogorov PDEs 数值逼近中克服了维数灾难的现象。我们证明了所用 DNN 模型的参数数量在 PDE 维数 d 和逼近精度的倒数 ε 的倒数中，最多呈多项式增长。

Sep, 2018

具有 ReLU、leaky ReLU 和 softplus 激活函数的深度神经网络在半线性偏微分方程空时解中可被证明地克服维数灾难

使用深度学习方法中的深度神经网络（DNN）和修正线性单元（ReLU）、渗漏线性单元（leaky ReLU）或软正单元（softplus）激活函数，可以在无维数的空间 - 时间区域中以 Lp 意义逼近具有 Lipschitz 连续非线性性质的半线性热方程的解。

Jun, 2024

用于非线性偏微分方程的稀疏深度神经网络

本文通过使用深度神经网络结合稀疏规则化技术，针对非线性偏微分方程的解进行了数值研究，结果表明该方法在求解 Burgers 方程和 Schrödinger 方程时能够生成稀疏且准确的解。

Jul, 2022

带有 ReLU，leaky ReLU 和 softplus 激活函数的深度神经网络能够在 $L^p$ 意义下，证明地克服 Kolmogorov 偏微分方程中具有 Lipschitz 非线性的维数灾难

深度学习方法在逼近高维偏微分方程方面的研究，尤其是通过神经网络和活化函数的选择，可以有效地克服维数诅咒，并能够在多项式时间内以任意精度逼近解，为解决偏微分方程提供了广泛应用的前景。

Sep, 2023

高维随机偏微分方程深度神经网络代理

利用深度学习方法解决高维随机偏微分方程的问题。通过使用全连接深度残差网络来逼近随机偏微分方程，在确定逼近深度神经网络的参数时，采用了 SGD 的变种，并在扩散和热传导问题上得到了验证。

Jun, 2018

证明人工神经网络克服了在数值逼近 Black-Scholes 偏微分方程中的维度灾难

本文揭示了人工神经网络可用于数值逼近 Black-Scholes PDEs 的实际应用，并证明了它能够在高维函数逼近中克服 “维度灾难”。

Sep, 2018

使用深度学习求解高维偏微分方程

通过使用神经网络逼近未知解的梯度来解决高维偏微分方程，该算法在包括非线性 Black-Scholes 方程、Hamilton-Jacobi-Bellman 方程和 Allen-Cahn 方程等方程上均取得了精确和低误差的结果。

Jul, 2017

高维偏微分方程的解算子的近似

我们提出了一种基于有限维控制的方法来近似解决高维演化型偏微分方程的解算符。通过使用通用的降阶模型，例如深度神经网络，我们将模型参数的演化与相应函数空间中的轨迹连接起来。利用神经常微分方程的计算技术，我们学习参数空间上的控制，从而使受控轨迹与 PDE 的解非常接近。对于一类二阶非线性 PDE，我们验证了近似精确度。对几个高维 PDE，包括解决 Hamilton-Jacobi-Bellman 方程的真实应用，我们展示了所提方法的准确性和效率。

Jan, 2024

深度神经网络的选择动态

本文介绍了一种基于偏微分方程框架的深度残差神经网络和相关学习问题的方法，并研究了前向问题的稳定性和最优性，同时探究了神经网络、PDE 理论、变分分析、优化控制和深度学习之间的算法和理论联系。

May, 2019

利用人工神经网络解决参数化偏微分方程问题

该研究论文展示了如何使用基于神经网络的方法用于数值偏微分方程中处理随机系数的问题，通过神经网络解决 PDE 问题从而简单和精确地表示物理量。

Jul, 2017