深度网络中的不确定性建模:短期和嘈杂序列的预测
深度神经网络在风险决策中的应用受到广泛关注,已在医学、金融、制造和质量控制等领域取得广泛应用。本文提出了一种数学框架,用于量化深度神经网络模型的预测不确定性,特别针对含有离散特征变量的表格数据集。通过对结核病患者在治疗过程中的预测进行案例研究,结果表明在一定风险水平下,我们能够识别出风险敏感的情况,这些情况容易因为预测器中的误差而被错误分类。与蒙特卡洛丢弃法相比,我们提出的框架更加关注误分类的情况。我们的提出的深度学习不确定性量化框架可在存在离散预测误差的应用中支持基于风险的决策。
Oct, 2023
本研究提出了一种替代贝叶斯 NN 的简单实现方法,其能够产生高质量的预测不确定性估计,并在分类和回归数据集上进行了实验以证明这一点。此外,研究还评估了在已知和未知数据分布下的预测不确定性,并证明该方法能够在超出分布的样本上表现出更高的不确定性,同时在 ImageNet 上证明了该方法的可扩展性。
Dec, 2016
利用轻量级概率网络,将预测不确定性纳入灵敏度分析以及通过不确定性分解的新方法进行模型解释,最终提高了模型的鲁棒性和推广能力,并从输入域的不确定性解释预测不确定性,从而提供了验证和解释深度学习模型的新方法。
Oct, 2018
基于贝叶斯神经网络的深度学习模型用于预测由于数据噪音引起的不确定性。高度不确定的实例对模型性能有害。通过研究模型预测和不确定性的分布,可以识别一组病人以进行及时干预。
Jul, 2019
通过在类概率上使用狄利克雷分布对主观逻辑进行建模并使用确定性神经网络从数据学习收集导致预测的证据的功能,我们提出一种与贝叶斯神经网络正交的方法,该方法可以直接推断出预测的不确定性。我们的方法在检测超出分布的查询和对抗性扰动方面取得了空前的成功。
Jun, 2018
本文论述了深度学习在自主驾驶和机器人中导航和状态估计中的应用,为了在黑盒模型和卡尔曼和其他贝叶斯滤波器中更加稳妥可靠地使用深度学习,需要准确地量化多变量不确定性,提出并实验了通过神经网络建模多元不确定性的方法,并证明精确的多变量不确定性量化对于卡尔曼滤波器性能在领域内和领域外评估数据中的巨大影响,同时指出端到端滤波器训练可以允许不确定性预测来补偿滤波器的不足。
Oct, 2019
本研究提出了一种混合模型,将经典时间序列模型与基于深度神经网络的模型结合起来,通过全局深度组件实现可扩展性和数据驱动,同时通过本地经典模型处理不确定性。实验证明,该模型在数据效率、准确性和计算复杂性方面具有优势。
May, 2019
通过对神经网络的深度进行概率推理,我们能够只需一次前向传播,就能估计模型的不确定性。在真实的回归和图像分类任务中,我们验证了这一方法的效果,并证明它能提供不确定度校准、对数据集变化的鲁棒性和与计算成本更高的基线准确度相当的预测结果。
Jun, 2020