论文证明了对于 $C^r$- 或 Lipschitz - 正则性唯一确定的一般类算子而言，算子学习存在维度灾难，但是解决 Hamilton-Jacobi 方程定义的解算子的一般维度灾难问题时可以利用底层解算子的附加结构，引入了一种新的神经算子结构 HJ-Net，该结构明确考虑了底层哈密顿系统的特征信息，从而可以打破无限维输入和输出函数空间相关的维度诅咒。

Jun, 2023

我们建立了一类神经深度操作符网络（DON）的普遍性和表达速度上界，这些网络模拟了（子集）可分离希尔伯特空间 X 到 Y 之间的 Lipschitz（或 Hölder）连续映射 G。与之前的工作不同，这些表达速率结果仅需 G 的 Lipschitz（或 Hölder）连续性，并且证明这些表达速率界的关键在于使用超表达激活或非标准的包含标准（ReLU）激活函数的神经网络架构。我们通过近似速率界来说明这些抽象结果，其中包括参数椭圆变分不等式的解算符以及希尔伯特 - 施密特算子的 Lipschitz 映射。

Jul, 2023

我们建立了一个混合神经算子（MoNOs），它在功能空间之间构建复杂性由专家神经算子（NOs）网络分布。我们的主要结果是一个 “分布式” 通用逼近定理，保证可以通过 MoNO 以任意给定的 ε 精度均匀逼近在其中的 Sobolev 单位球上的任何 Lipschitz 非线性算子，并满足每个专家 NO 的深度、宽度和秩为 Ο(ε^(-1)) 的约束。我们的结果还证明了经典 NO 在 L^2 ([0,1]^d) 的紧致子集上均匀逼近连续非线性算子的新的定量表达速率。

Apr, 2024

通过对机器学习理念在函数巴拿赫空间之间进行映射的（通常是非线性）算子的应用，可以构建近似算子，这些算子通常源于用偏微分方程（PDEs）表达的物理模型。近似算子在许多查询任务中具有巨大的潜力，作为传统数值方法的高效代理模型。由于数据驱动，当无法提供基于 PDE 的数学描述时，它们还可以进行模型发现。本综述主要关注神经算子，其构建基于深度神经网络在有限维欧几里得空间定义的函数的逼近方面的成功。从经验上看，神经算子在各种应用中都显示出了成功，但我们对其理论的理解仍然不完整。本综述文章总结了近期进展和我们对神经算子理论方面的当前认识，着重从逼近理论的角度来看。

Feb, 2024

通过用布尔函数表示方法，研究证明了标准 Lipschitz 网络无法在有限数据集和 Lipschitz 函数逼近上进行鲁棒分类。提出了一种新的 Lipschitz 网络方法并通过实验验证了鲁棒性。

Oct, 2022

该研究论文主要讨论非线性动力系统学习的基本限制，以及循环神经网络在满足 Lipschitz 属性且以最佳度量 - 熵方式快速遗忘过去输入方面的应用，通过计算相关指标，证明了 RNN 可以实现指数衰减和多项式衰减 Lipschitz 的消退记忆系统。

Jul, 2024

本研究介绍了神经算子，它是一种学习算子的新型神经网络，能够在无限维函数空间中进行映射。我们证明了神经算子的广义逼近定理，可以逼近任何连续非线性算子。研究还提出了四类高效的参数化方法，并在偏微分方程的解算子的代理映射中应用了神经算子，结果表明相较于传统 PDE 求解器和现有的机器学习方法，神经算子具有更好的性能优势且速度更快。

Aug, 2021

利用路径范数和巴伦范数建立了适合于过参数化的两层神经网络的函数空间，并证明了度量熵和一般化界限方面的改进结果。

Apr, 2024

研究神经网络与输入的 Lipschitz 连续性约束，提供一种计算前馈神经网络 Lipschitz 常数上界的简单技术，进而以受限优化问题的形式训练神经网络并使用投影随机梯度方法求解，实验证明该方法优于其他常用规则化器，特别是在仅有少量训练数据时。

Apr, 2018

应用 Leray-Schauder 映射，在任意 Banach 空间上获得了连续算子的新的普遍逼近定理，并在函数的多个变量的 Banach 空间 $L^p$ 中基于多项式基的正交投影引入并研究了一种算子学习方法。在一些额外假设下，我们导出了学习线性投影和有限维映射的算子的普遍逼近结果。针对 $p=2$ 的情况，我们给出了逼近结果成立的一些充分条件。本文是深度学习方法论的理论框架，其具体实现将在后续工作中提供。

Jun, 2024