Mar, 2024

深度网络的集合卡尔曼逆问题中的不确定性量化

PDF
TL;DR基于 DeepONet 的运算器学习，通过利用 Ensemble Kalman Inversion (EKI) 方法，提出了一种高效的不确定性量化方法，以应对在具有有限和嘈杂数据的实际应用中的不确定性挑战。
operator learningdeeponetuncertainty quantificationensemble kalman inversionpractical applications
发现论文，激发创造
  • 对复杂动态系统中认识不确定性和随机不确定性量化的机器学习架构评估

    本研究比较了多种机器学习技术的 UQ 准确性，并对两个模型（船只在波浪中的运动和 Majda-McLaughlin-Tabak 模型）进行了应用。

    Jun, 2023

  • 自动化深度集成与不确定性量化

    AutoDEUQ 使用深度神经网络和超参数搜索自动生成神经网络集合，并使用方差法将预测方差分解为数据方差和模型方差，这种方法在许多回归基准测试中优于几种现有的不确定性量化方法。

    Oct, 2021

  • 使用单个深度确定神经网络进行不确定性估计

    论文提出了一种通过单次前向传递来训练确定性深度模型的方法，该深度模型可以找到并拒绝分布外的数据点。此外，论文还提出了一种基于确定性不确定性量化（DUQ）的建议，并描述了一种新的损失函数和质心更新策略。通过引入梯度惩罚，我们能够可靠地检测分布外的数据，并且可以在大型数据集上缩放不确定性量化。最后，作者在一些难以检测的数据集上，如 FashionMNIST vs. MNIST 和 CIFAR-10 vs. SVHN，使用单个模型得出了比 Deep Ensembles 更好的结果。

    Mar, 2020

  • 预训练神经网络的认知不确定性量化

    我们的研究旨在为任何预训练模型量化认识上的不确定性，不需要原始训练数据或模型修改，可以确保广泛适用于任何网络架构或训练技术；我们提出了一种基于梯度的方法来评估认识上的不确定性，通过分析输出相对于模型参数的梯度，从而指示必要的模型调整以准确地表示输入。

    Apr, 2024

  • 深度学习中的多元不确定性

    本文论述了深度学习在自主驾驶和机器人中导航和状态估计中的应用，为了在黑盒模型和卡尔曼和其他贝叶斯滤波器中更加稳妥可靠地使用深度学习，需要准确地量化多变量不确定性，提出并实验了通过神经网络建模多元不确定性的方法，并证明精确的多变量不确定性量化对于卡尔曼滤波器性能在领域内和领域外评估数据中的巨大影响，同时指出端到端滤波器训练可以允许不确定性预测来补偿滤波器的不足。

    Oct, 2019

  • 超参数化神经网络的有效不确定性量化和减少

    使用一种名为 PNC 预测器的方法，仅使用一个辅助神经网络，并结合适当的低计算重采样方法，以最低限度的开销建立了几种方法，利用仅四个训练网络就能构建渐近精确覆盖置信区间。

    Jun, 2023

  • SDE-Net：为深度神经网络提供不确定性估计

    我们提出了一种基于随机动态系统视角的量化深度神经网络不确定性的新方法，即神经随机微分方程模型 (SDE-Net)，并证明了其存在唯一解的性质，实验证明该模型在不确定性占据重要角色的一系列任务中优于现有的不确定性估计方法。

    Aug, 2020

  • 深度确定性不确定性：一个简单的基线

    本研究提出了一种概念简单的基线模型，即通过残差连接和谱归一化构建特征空间后，利用高斯判别分析对 softmax 神经网络的预测原型进行后处理，从而达到准确预测深度神经网络中的不确定性的目的，这种 Deep Deterministic Uncertainty（DDU），可以替代当前复杂且耗时的不确定性量化方法，且比当前最先进的方法的计算成本更低。

    Feb, 2021

  • 使用深度集成实现简单且可扩展的预测不确定性估计

    本研究提出了一种替代贝叶斯 NN 的简单实现方法，其能够产生高质量的预测不确定性估计，并在分类和回归数据集上进行了实验以证明这一点。此外，研究还评估了在已知和未知数据分布下的预测不确定性，并证明该方法能够在超出分布的样本上表现出更高的不确定性，同时在 ImageNet 上证明了该方法的可扩展性。

    Dec, 2016

  • 神经网络不确定性估计在分类问题中的质量比较

    对深度学习的 UQ 方法进行了质量评估，比较了不同模型的不确定性估计质量。

    Aug, 2023