基于贝叶斯方法的交通预测模型的不确定性评估和泛化能力改善

Jul, 2023

基于贝叶斯方法的交通预测模型的不确定性评估和泛化能力改善

A Bayesian approach to quantifying uncertainties and improving generalizability in traffic prediction models

Agnimitra Sengupta, Sudeepta Mondal, Adway Das, S. Ilgin Guler

TL;DR该研究提出了一种基于贝叶斯循环神经网络和谱归一化的交通预测模型框架，能够提供不确定性估计和更好地适应不同数据集的环境，从而在交通数据预测任务中提高了准确性。

Abstract

Deep-learning models for traffic data prediction can have superior performance in modeling complex functions using a multi-layer architecture. However, a major drawback of these approaches is that most of these approaches do not offer forecasts with uncertainty estimates, which are ess

traffic prediction deep learning uncertainty estimates bayesian recurrent neural network spectral normalization

发现论文，激发创造

基于贝叶斯方法的批标准化深层网络不确定性估计

使用批归一化训练深度神经网络相当于在贝叶斯模型中进行近似推理，通过一系列实验验证此方法有效，对比基线和贝叶斯方法表现显著优于前者，与后者相媲美。

Feb, 2018

距离感知简单方法改进单模型深度不确定性

研究了如何改进深度神经网络的不确定性量化能力，基于确定性表示将不确定性量化形式化为极小化 - 极大化学习问题，提出了一种名为 SNGP 的方法，通过两个简单的改变来提高现代 DNN 的距离感知能力，取得了较好的预测、校准和超领域检测性能。

May, 2022

深度学习不确定性估计的通用框架

提出了一种用基于贝叶斯信任网络和蒙特卡罗采样的方法来对神经网络进行不确定性估计，这个方法具有与神经网络结构和任务无关，不需要优化进程的更改，能够应用于已经训练好的结构，有效地提高了准确性。

Jul, 2019

基于图像的城市交通预测的不确定性量化

深度学习模型对交通预测的强大预测性能使其得到广泛应用，但缺乏可解释性限制了其在实际智能交通系统中的部署。通过使用不确定性量化方法，我们调查了这些方法在跨多个城市和时间段的大规模基于图像的交通数据集上的应用，以获得对现有不确定性方法在交通预测中的实用性以及不确定性与城市交通动态之间的关系的全面认识。在在时间和时空转移任务上比较了两种认知不确定性方法和两种他稳不确定性方法后，我们发现可以恢复有意义的不确定性估计。此外，我们进一步演示了如何利用不确定性估计来检测城市交通动态变化中的无监督异常点。通过对莫斯科市的代表性案例研究，我们发现我们的方法能够捕捉到交通行为的时间和空间效应。我们的工作是在交通预测任务中推动不确定性意识的进一步发展，并旨在突出不确定性量化方法对于更好理解城市交通动态的价值贡献。

Aug, 2023

端到端控制的空间不确定性采样

本文提出了一种利用特征映射相关性估计不确定性的贝叶斯神经网络用于端到端控制，该方法在传统元素级 dropout 方法上实现了更好的模型拟合和更紧密的不确定性估计。

May, 2018

贝叶斯循环神经网络模型用于空间 - 时间数据的预测和不确定性量化

本文提出了一种基于贝叶斯 RNN 模型的非线性时空预测方法，旨在通过量化不确定性来提高预测准确性，同时通过简单修正基本的 RNN 以适应非线性时空数据的独特性。该方法成功应用于一种 Lorenz 模拟以及两个实际的非线性时空预测应用。

Nov, 2017

基于神经网络的语音增强中融入不确定性

该研究通过在神经网络的语音信号增强过程中，将 aleatoric 和 epistemic 不确定性模型化，提出了一种模型不确定性建模的框架，并在不同数据集上验证了该方法的有效性。

May, 2023

将不确定性量化纳入出行方式选择建模：一种贝叶斯神经网络（BNN）方法和基于不确定性引导的主动调查框架

将可解释人工智能领域的不确定性概念引入交通方式选择建模，提出了基于贝叶斯神经网络的交通方式预测模型（BTMP），该模型能够量化预测的不确定性，并通过一种不确定性引导的主动调查框架，动态地制定具有高预测不确定性的调查问题，通过减少调查问题数量降低调查成本，加快模型训练速度。对合成数据集和真实数据集进行实验验证，结果表明，利用不确定性引导的主动调查框架训练的 BTMP 模型，只需使用 20% 至 50% 的调查响应数据，即可达到与随机收集的调查数据训练的模型相当的性能。总体而言，提出的 BTMP 模型和主动调查框架将不确定性量化纳入交通方式选择建模中，为模型用户提供了关于预测可靠性的重要见解，并以成本高效的方式优化深度学习模型训练的数据收集。

Jun, 2024

通过距离感知的确定性深度学习方法进行简单和有原则的不确定性评估

SNGP 基于权重规范化和高斯过程，解决了深度神经网络中单模型在预测、校准和域外检测上的不确定性问题。

Jun, 2020

用于基于风险决策的深度学习分类中的离散输入噪声量化不确定性

深度神经网络在风险决策中的应用受到广泛关注，已在医学、金融、制造和质量控制等领域取得广泛应用。本文提出了一种数学框架，用于量化深度神经网络模型的预测不确定性，特别针对含有离散特征变量的表格数据集。通过对结核病患者在治疗过程中的预测进行案例研究，结果表明在一定风险水平下，我们能够识别出风险敏感的情况，这些情况容易因为预测器中的误差而被错误分类。与蒙特卡洛丢弃法相比，我们提出的框架更加关注误分类的情况。我们的提出的深度学习不确定性量化框架可在存在离散预测误差的应用中支持基于风险的决策。

Oct, 2023