- 一种适用于极限学习机的非重叠域分解方法:椭圆问题
提出了一种用于解决偏微分方程的极限学习机(ELM)方法,通过使用单隐藏层前馈神经网络预设隐藏层中的权重 / 偏置系数并使用线性最小二乘方法来训练神经网络的输出层参数,提高了 ELM 的训练速度。同时,引入非重叠域分解方法(DDM),结合本地 - 基于物理信息的深度学习和压缩选点法,高维扩散反应方程的实际存在理论和数值计算
利用稀疏技术和随机采样的最新进展,本研究基于深度学习开发和分析了一个高维偏微分方程求解器,理论和数值结果表明其在稳定性和准确性方面可以与一个新型的压缩谱逼近方法竞争,并证明了存在一类可训练的深度神经网络,具有适当的网络结构和样本复杂度的充分 - 通过任务相关得分学习降低线性反问题的后验采样成本
评分扩散模型(SDM)提供了一种灵活的方法,用于在各种贝叶斯反问题中从后验分布中采样。本文针对线性反问题,证明了完全绕过前向映射评估,在后验样本生成中将计算任务转移到训练特定扩散式随机过程分数的离线任务上的可行性。情况下的得分,通过适当的仿 - 基于物理信息的神经网络及其在物理信息机器学习中的相关模型的数值分析
对物理启发机器学习中的物理信息神经网络和相关模型的数值分析结果进行综合评述,并重点阐述了在近似偏微分方程时 PINN 所产生的误差在各个组成部分的行为,以及与 PDE 类型和基础域维度相关的逼近、概括和训练误差的可用结果。同时阐明了解的稳定 - MM运算学习遇见数值分析:通过迭代方法改进神经网络
通过将神经网络定位为具有固定点表示所需解的算子,我们以数值分析为基础,建立了一个以迭代方法为基础的理论框架,以理论证明为基础,我们演示了流行的架构,如扩散模型和 AlphaFold,本质上使用了迭代算子学习,经验评估表明通过网络算子进行迭代 - Tao 通用微分与差分:理论与应用
本文介绍了一种基于有限区间微分的离散信号处理方法,通过对微分方法进行推广并结合卷积,提出了一系列方便实际操作且具有高抗噪性能的差分算子。
- 学习连续物理模型
通过运用数值分析理论建立的收敛性测试方法,验证机器学习模型是否准确地学习了某个系统本质的连续动力学过程,成功的模型能够更好地插值和外推,为科学预测提供更精确的数学手段。
- CAPD::DynSys: 一个用于严格数值分析的灵活 C++ 工具箱,用于动力系统
介绍 CAPD::DynSys 库,用于数值精确分析动力系统,并通过几个有趣的案例表明其在 ODE 动力学中的计算辅助证明应用.
- 深度神经网络求解参数扩散方程
本文探讨了近似理论对神经网络在数值分析实际学习问题中的影响,并以基于机器学习的参数化偏微分方程求解为例进行了全面的数值研究。研究表明,参数空间维度与求解子流形的内在维度对模型性能有微弱的影响。通过测试数据的优化和采样来确立测试用例之间的可比 - 深度神经网络在函数逼近中理论与实践之间的差距
通过计算框架来探讨深度神经网络在数值分析领域的稳定性、精确性、计算效率和样本复杂性,研究了不同维度中的测试函数和与压缩感知的比较,结果表明 DL 在实际中的性能表现仍需要进一步设计架构和训练策略。但此实践证明了深度神经网络在科学计算中具有潜 - 从连续视角看机器学习
我们提出了机器学习的连续形式,作为经典数值分析中变分计算与微分积分方程问题的解决方法,演示了如何通过离散化来恢复传统的机器学习模型和算法,同时展示了从这种连续形式自然产生的新模型和新算法。并讨论了如何在这个框架下研究泛化误差和隐式正则化问题 - 多粒子动力系统视角下理解和改进 Transformer
本文提出将 Transformer 理解为数值常微分方程 (ODE) 求解器,通过这一框架给出了一种新的改进 Transformer 的方案 ——Macaron Net,经过实验证明其在监督和非监督学习任务中优于 Transformer。
- 在 $W^{s,p}$ 范数下使用深度 ReLU 神经网络进行逼近的误差界
通过 ReLU 神经网络的微积分构建人工神经网络,我们分析了针对弱 Sobolev 范数的 Sobolev 正则函数的逼近速率。其次,我们为 Sobolev 正则函数的类建立了对于 ReLU 神经网络的逼近下界,并将结果拓展到应用于偏微分方 - 种植团问题的并行淬火
本文使用平行退火算法对种植的团问题和稀疏种植独立集问题进行数值分析,表明其时间复杂度在困难区域呈现多项式级别,且针对不同的但相关的模型,阈值应该更加尖锐,有限尺寸的校正应该更不重要。
- 基于多步神经网络的非线性动力系统数据驱动发现
这篇论文提出了一种利用深度神经网络和数值分析相结合的机器学习方法,用于从数据中识别非线性动态系统,以此预测未来状态和识别吸引基。在多个基准问题中,论文证明了该方法的有效性,包括学习洛仑兹系统、圆柱背后的流体动力学、Hopf 分岔和糖酵解振荡 - 提高统计证据的能量后验估计
本文改进了 Power posterior 方法,提供了数值分析文献中的一种方法以减少计算误差,同时还应用于 Stepping Stone 采样器估计证据的倒数温度阶梯的选择。
- 迭代算法用于全息相位恢复
本文介绍了 ptychography 的优点和存在的问题,并从数值分析的角度回顾了一些解决 phase retrieval 问题的现有方法,并提出了一些基于数值优化的替代方法。
- 随机稳定匹配
本文在研究用稳定匹配问题的原型模型,在不同的图形情况下,稳定匹配问题的难易程度, 并提出了五个猜想来描述随机稳定匹配的渐近特性。