神经常微分方程中的随机性:实证研究
本研究介绍了一种新型连续神经网络框架 Neural SDE,该框架自然地融合了基于随机噪声注入的各种常用正则化机制,可用于输入干扰和非对抗性扰动的鲁棒建模,并可实现更好的泛化性能和对抗性强化训练。
Jun, 2019
在处理真实世界的不规则时间序列数据中,由于不连续的采样间隔和缺失值,神经随机微分方程(Neural SDEs)的良好性能依赖于漂移和扩散函数的巧妙选择,本研究通过提出三个稳定的 Neural SDE 类别: Langevin 型 SDE、线性噪声 SDE 和几何 SDE,并通过广泛的实验验证了这些方法在分布转移和不同缺失率下的鲁棒性,展示了该方法在处理真实世界不规则时间序列数据中的有效性。
Feb, 2024
通过实验和理论探讨,研究了神经常微分方程(ODEs)模型的鲁棒性。发现相比传统的卷积神经网络(CNNs),ODE 网络更加稳健,并提出一种新的时间不变稳态神经 ODE 方法(TisODE)来进一步提高鲁棒性。
Oct, 2019
本研究使用贝叶斯深度学习技术将轻量级机器学习方法应用于神经常微分方程以获得结构化和有意义的不确定性量化,研究了机械知识和不确定性量化在两种神经常微分方程框架下的相互作用 - 辛神经常微分方程和神经常微分方程物理模型的补充,证明了方法在低维 ODE 问题和高维偏微分方程上的有效性。
May, 2023
通过将连续 LIE 对称性引入神经 ODE 模型,将其与损失函数相结合,本文研究了在连续时间框架中捕捉系统动力学的神经 ODE 模型对称正则化。这种结构属性的引入能显著提高模型的鲁棒性和稳定性。
Nov, 2023
本文提出了一种有效的组合方法,采用最优输运和稳定性正则化,使神经 ODE 倾向于更简单的动态系统,可以将训练时间显著减少,并且不会损失性能,从而将神经 ODE 应用于大规模应用。
Feb, 2020
本文研究了基于改进方程的方法,表明残差网络及其变体可以被视为弱逼近随机微分方程。从损失景观的角度提供了关于正则化效应的新视角,并为设计更可靠和高效的随机训练策略提供了启示。我们提出了一种利用伯努利丢弃来进行实验的新方法,从而验证了我们的理论发现。
Dec, 2018
本文主要研究了扩散模型在计算机视觉中的应用,比较和分析了基于 ODE 和 SDE 的概率流和扩散模型在不同情况下的性能差异,研究表明,对于特定的脉冲形状误差,扩散系数越大,使用 SDE 模型生成样本的误差就会指数级下降,并且变化扩散系数可以提高样本质量。
Jun, 2023
本研究旨在解决学习具有刚性系统的神经普通微分方程(ODE)的挑战,它通常来自化学和生物系统中的化学动力学建模。本文提出了使用深度网络、适当缩放网络输出以及稳定梯度计算等关键技术的方法,成功地演示了解决 Robertson 问题和空气污染问题中的硬化系统。通过使用学习刚性神经 ODE 的工具,可以在能源转换、环境工程以及生命科学等具有广泛时间尺度变化的应用中使用神经 ODE。
Mar, 2021