基于贝叶斯深度卷积编码 - 解码网络的代理建模和不确定性量化

Jan, 2018

基于贝叶斯深度卷积编码 - 解码网络的代理建模和不确定性量化

Bayesian Deep Convolutional Encoder-Decoder Networks for Surrogate Modeling and Uncertainty Quantification

Yinhao Zhu, Nicholas Zabaras

TL;DR本文提出了一种使用卷积神经网络实现的关于具有随机偏微分方程的不确定性建模的代理模型，该方法使用变分梯度下降算法对参数进行 “近似贝叶斯推断”，可以在处理不确定性时实现和其他方法相比具有最先进的预测精度和不确定性量化，即使训练数据量相对较小，也能获得非常好的性能。

Abstract

We are interested in the development of surrogate models for uncertainty quantification and propagation in problems governed by stochastic PDEs using a deep convolutional encoder-decoder network in a similar fashion to approaches considered in deep learning for image-to-image regressio

surrogate models uncertainty quantification bayesian approach convolutional neural nets predictive accuracy

发现论文，激发创造

无需标记数据的高维代理建模和不确定性量化的物理约束深度学习

提出一种基于物理约束深度学习的建模和不确定性量化方法，避免深度学习在小样本问题上的跨度不足，可以用于偏微分方程系统的解决和预测推断，并提供一些解释和量化手段。

Jan, 2019

Deep UQ: 学习深度神经网络代理模型用于高维不确定性量化

本文探讨了运用深度神经网络构建模拟器代理模型的方法，以解决原模拟器参数过多导致的维数灾难，研究对象为随机椭圆偏微分方程中涉及的扩散系数。

Feb, 2018

Bayesian SegNet：用于场景理解的深度卷积编码器 - 解码器结构的模型不确定性

提出一种用于概率像素级语义分割的深度学习框架 ——Bayesian SegNet，可以在测试时间执行带有丢弃的蒙特卡罗采样，以生成像素类标签的后验分布，从而改善小数据集的语义分割性能，提高 2-3% 的性能。

Nov, 2015

SDE-Net：为深度神经网络提供不确定性估计

我们提出了一种基于随机动态系统视角的量化深度神经网络不确定性的新方法，即神经随机微分方程模型 (SDE-Net)，并证明了其存在唯一解的性质，实验证明该模型在不确定性占据重要角色的一系列任务中优于现有的不确定性估计方法。

Aug, 2020

贝叶斯深度图像先验下的医学图像去噪中的不确定性估计

通过随机初始化卷积网络对图像进行参数化并执行梯度下降，以匹配观察结果的方法来量化反向医学成像任务中的不确定性，扩展到带有蒙特卡罗失活的贝叶斯方法，实现对预测不确定性的可靠估计，解决了大型数据集上深度神经网络出现幻觉和制品所带来的问题。

Aug, 2020

高维度不确定性量化的贝叶斯深度学习框架

本研究提出了一种基于贝叶斯神经网络和哈密顿蒙特卡罗的新型深度学习方法，用于量化随机偏微分方程中的不确定性。通过多个数值实例，证明了该方法对于高维度前向和反向问题的不确定性量化是有效的。同时发现该方法的计算成本几乎不受问题维度的影响，具有处理所谓的维数灾难的潜力。

Oct, 2022

变分编码器 - 解码器网络在反问题的目标导向不确定性量化中的应用

本文使用变分编码解码网络，采用一种目标导向的不确定性量化方法来解决逆问题，特别针对非线性和可能未知的算子及非标准先验假设，利用机器学习技术实现大规模逆问题的数据驱动方法，以避免需要求解有挑战性的逆问题并借助概率分布在潜在空间中实现目标量的快速不确定性量化，并在医学断层成像重建和非线性水力学断层成像方面取得了成功的数值结果。

Apr, 2023

评估科学应用中神经 PDE 的不确定量化方法

神经偏微分方程（Neural PDEs）被证明能够有效重构流系统并预测相关的未知参数。然而，基于贝叶斯方法的神经偏微分方程显示出更高的预测确定性，相较于使用 Deep Ensembles 方法得到的结果，可能低估了真实潜在的不确定性。

Nov, 2023

图卷积神经网络模型下演化过程的不确定性量化

神经网络模型在科学机器学习任务中的应用近年来已大量增加。尤其是，在建模具有时空复杂性的过程方面，神经网络模型表现出色。然而，这些高度参数化的模型在产生与感兴趣的区域保持定量化误差界限方面引起了怀疑。因此，有必要寻找适用于神经网络的不确定性量化方法。本研究对神经网络对复杂时空过程进行了参数不确定性量化的比较，采用了哈密顿蒙特卡洛和 Stein 变分梯度下降及其投影变体。具体而言，我们将这些方法应用于用递归神经网络和神经常微分方程模型建模的发展系统的图卷积神经网络模型。我们展示了 Stein 变分推断是复杂神经网络模型的可行替代方法。对于我们的示例，与哈密顿蒙特卡洛相比，Stein 变分推断在时间上给出了类似的不确定性描述，尽管方差普遍更大。投影 Stein 变分梯度下降也产生了与非投影对应的类似的不确定性描述，但是在神经网络预测的稳定性和复杂的似然函数空间中卷积产生了活动权重空间的大幅减少与困扰。

Feb, 2024

利用物理约束深度自回归网络模拟 PDE 系统动态

本文提出了一种基于物理约束的深度学习模型，通过自动回归密集编码器 - 解码器卷积神经网络建模非线性动力学系统，实现对时间步骤的预测量进行不确定性量化，并利用其在多个非线性瞬态偏微分方程系统上进行测试。

Jun, 2019