- 通过极端稀疏化物理约束神经网络模型,提高斯坦变分推理的性能
科学机器学习的应用中,$L_0$ 稀疏化优于直接应用 Stein 变分梯度下降 (SGVD) 或投影 SGVD 方法,具有更好的鲁棒性、计算效率和性能,并且在噪声环境、外推区域以及收敛速度方面表现出卓越优势。
- 有限基础的科尔莫哥洛夫 - 阿诺德网络:数据驱动和物理启发问题的域分解
使用有限基础 Kolmogorov-Arnold 网络(FBKANs)和域分解方法,可以通过在并行中训练多个小型网络来解决多尺度问题,得到对噪声数据和物理相关训练具有准确结果的科学机器学习方法。
- 普适微分方程中不确定性量化评估
科学机器学习是一类新的方法,它将物理知识和机械模型与数据驱动技术相结合,以揭示复杂过程的控制方程。本文提供了不确定性量化 (UQ) 的 UDE 的形式化,并研究了重要的频率派和贝叶斯方法。通过分析三个不同复杂度的合成示例,本文评估了集成、变 - RandONet: 基于随机投影的浅层网络学习线性和非线性运算符
通过随机投影算子网络(RandONets)解决动态系统的逆问题,实现线性和非线性算子的学习,降低参数空间维度,证明了 RandONets 对非线性算子和线性非线性演化算子的普适逼近准确性,相对于传统深度算子网络 DeepONets 具有更高 - ConDiff: 一个用于偏微分方程的神经求解器的挑战数据集
我们提出了 ConDiff,这是一个新颖的科学机器学习数据集,该数据集的主题是具有可变系数的扩散方程,这是参数化偏微分方程的许多应用中的一个基本问题。
- 使用结构化体积信息放大概率 PDE 模拟器
应用偏微分方程模型到现实世界问题是科学机器学习的重要课题。本文提出一种结合基于有限体积法的离散化方案和数值线性代数技术的框架,通过实验验证在空间与时间方面的海啸模拟中该方法相比之前的基于插值法的技术有显著的性能提升。
- CoNO: 用于连续动态物理系统的复杂神经算子
神经算子的复杂神经运算符(CoNO)使用分数傅里叶变换(FrFT)参数化积分核,更好地表示复杂值域中的非平稳信号,具有在解决偏微分方程等问题上表现卓越的能力。
- 物理增强机器学习:动力系统研究的一个立场文件
本篇综述研究物理增强的机器学习 (PEML) - 也被称为科学机器学习 - 特别关注开发用于解决动力系统挑战的 PEML 策略,讨论了 PEML 方法的三个广泛分类 (物理指导、物理编码和物理信息) 以及在涉及复杂动力系统的工程应用中开发 - 学习动力系统中未观测状态的控制方程
采用混合神经 ODE 结构结合符号回归来学习部分观测动力系统的控制方程,通过两个案例研究验证该方法成功地学习了这些系统中未观测状态的真实控制方程,并对测量噪声具有鲁棒性。
- 使用神经隐式流来表示规范系统的潜在动态
研究了 Neural Operators 中的 Neural Implicit Flow 对经典系统的潜在动力学建模和动态相关信息提取的能力,并通过与 Deep Operator Networks 的比较分析,评估了其作为降维算法的适用性。
- 在科学机器学习中利用粘性 Hamilton-Jacobi 偏微分方程进行不确定性量化
科学机器学习中的不确定性量化(UQ)与可靠性建模方法相结合,我们提供了一种新的对 UQ 问题的解释,通过建立科学机器学习中产生的贝叶斯推断问题与粘性哈密顿 - 杰克比偏微分方程的新理论联系,我们展示了通过粘性哈密顿 - 杰克比偏微分方程的空 - 利用插值模型和误差界提高可验证的科学机器学习
验证和验证现代科学机器学习工作流程的有效技术是很具挑战性的。本研究通过展示(1)多个标准插值技术具有信息丰富的误差界限,可以进行高效计算或估计;(2)不同插值器之间的比较性能有助于验证目标;(3)在深度学习技术生成的潜在空间上部署插值方法, - 物理相关扩散模型
通过在模型训练过程中加入约束条件使其生成的样本更符合所施加的约束,从而提高生成样本与约束的一致性,且相较于现有方法有更好的性能且不影响推断速度;该方法还可以自然地防止过拟合。
- PETScML:科学机器学习中用于训练回归问题的二阶求解器
最近几年,我们见证了科学机器学习作为一种数据驱动的工具的兴起,通过深度学习技术分析计算科学和工程应用产生的数据。这些方法的核心是监督训练算法,用于学习神经网络实现,这是一个非常非凸的优化问题,通常使用随机梯度方法来解决。然而,科学机器学习训 - 利用不确定性量化来描述和改善偏微分方程的领域外学习
在科学机器学习中,研究人员发现利用数据驱动的解算器学习可以提供快速的近似解决方案,作为传统数值偏微分方程求解器的替代方法。本研究通过聚合多个神经操作器,识别高误差区域并提供与预测误差相关的良好不确定性估计,从而解决了现有神经操作器方法在域外 - 基于物理约束的多项式混沌展开用在科学机器学习和不确定性量化中
提出了一种新颖的物理约束多项式混沌扩展方法作为代理模型方法,能够同时进行科学机器学习和不确定性量化任务,有效地量化科学机器学习任务的不确定性,并利用科学机器学习改善不确定性评估。
- 建模科学机器学习中的随机不确定性的概率神经网络 (PNNs)
本研究调查了使用概率神经网络(PNN)来建模巧合不确定性的方法,PNN 生成目标变量的概率分布,能够在回归场景中确定预测均值和区间,实验证实了 PNN 在建模巧合不确定性方面的有效性,特别是在真实科学机器学习环境中,PNN 产生接近 0.9 - 通过混合精度加快科学机器学习速度和减少内存使用
科学机器学习 (SicML) 中的物理信息神经网络 (PINNs) 和深度算子网络 (DeepONets) 是用于解决偏微分方程的主要技术,但是使用混合精度训练这些网络既可以降低计算时间和内存消耗,又可以保持模型的准确性。
- 高斯过程学习非线性动力学
科学机器学习中,通过贝叶斯推断模型参数,利用状态数据和相关性构建似然函数,从而学习非线性动力学模型。
- 利用自动编码的守恒定律发挥神经算子的能力
神经算子是在科学机器学习中对复杂物理系统建模的有效工具,而保守定律编码的神经算子则通过自动满足保守定律来提高学习效果,特别是在小数据情况下。