Apr, 2023

深度神经网络多维度不确定性量化

PDF
TL;DR本文旨在研究如何衡量深度神经网络中不同的不确定性因素，进一步探究利用这些因素更有效地解决不同决策问题的方法。其中，作者提出了一个一般学习框架来定量不同根本原因导致的多种不确定性，并发现在对于深度神经网络的分类及早期时间点的事件检测中，对于实现最佳效果的不确定性因素分别为矛盾和真空。此外，本文还提出了一个改进 SSL 算法的框架，以抵御 OOD 对象的重要影响。
deep neural networksuncertaintyvacuitydissonancesemi-supervised learning
发现论文，激发创造
  • 自主车应用深度学习部件不确定性估计方法比较

    本文研究了自主车辆在安全关键任务中使用神经网络时，面临的不可避免的误差问题，并给出了一些用于评估这种不确定性的方法和指标，比较了各种不确定性量化方法在特定 AV 任务和类型的优劣。

    Jun, 2020

  • 评估端到端自动驾驶控制中的不确定性量化

    本文讨论了 Deep Neural Networks 在自动驾驶领域中的应用，提出了一种实时提取不确定性量化度量的方法，并使用此方法预测了潜在的崩溃事件。

    Nov, 2018

  • 深度神经网络中的不确定性调查

    本文对神经网络不确定性估计进行了全面的概述和介绍，包括模型不确定性和数据不确定性，并介绍了通过确定性神经网络、贝叶斯神经网络、神经网络集合和测试时间数据增强方法来建模这些不确定性的方法。此外，还讨论了不确定性方面的实际应用中存在的挑战和限制，以及未来工作的展望。

    Jul, 2021

  • 用于基于风险决策的深度学习分类中的离散输入噪声量化不确定性

    深度神经网络在风险决策中的应用受到广泛关注，已在医学、金融、制造和质量控制等领域取得广泛应用。本文提出了一种数学框架，用于量化深度神经网络模型的预测不确定性，特别针对含有离散特征变量的表格数据集。通过对结核病患者在治疗过程中的预测进行案例研究，结果表明在一定风险水平下，我们能够识别出风险敏感的情况，这些情况容易因为预测器中的误差而被错误分类。与蒙特卡洛丢弃法相比，我们提出的框架更加关注误分类的情况。我们的提出的深度学习不确定性量化框架可在存在离散预测误差的应用中支持基于风险的决策。

    Oct, 2023

  • 深度图像合成神经网络预测不确定性的视觉分析

    利用不同方法高效估计深度神经网络的预测不确定性和敏感性，并将其互动比较和对比，以应对可靠的不确定性感知模型在深度图像合成任务中产生信息丰富且质量多样的插图，进一步提高深度可视化模型的稳健性和可解释性，使其在以视觉分析为基础的各个科学领域得以实际应用和方便使用。

    May, 2024

  • 深度学习的不确定性量化

    提供了深度学习的完整且具有统计一致性的不确定性量化，包括源自（1）新的输入数据，（2）训练和测试数据，（3）神经网络的权重向量和（4）神经网络本身的不确定性。

    May, 2024

  • 科学机器学习中的不确定性量化：方法、指标和比较

    本文介绍了一个包含不确定性建模、解法和评估的完整框架，用于量化神经网络中包括噪声、有限数据、超参数、过度参数化、优化和采样误差及模型错误等多源的误差和不确定性，特别关注向无限维函数空间中的偏微分方程和操作映射的学习，包括一个在原型问题上进行的广泛的比较研究。

    Jan, 2022

  • 基于不确定性的文本可靠分类

    本文针对文本分类任务中的 OOD 检测问题，提出了基于证据不确定性的方法，该方法通过引入辅助的离群样本和伪样本来训练模型，并明确建模了类别概率的不确定性。实验证明，该方法能够轻松部署于传统 RNN 和 Fine-tuned 预训练 transformers，并在 OOD 检测上优于其他方法。

    Jul, 2021

  • 深度神经网络的广义不确定性：分类和应用

    本文综述了深度神经网络中不确定性的重要性和定义，包括传统领域和特定于深度神经网络的现有方法，并概括了其在多种实际学习任务中的应用。

    Feb, 2023

  • 神经网络不确定性估计在分类问题中的质量比较

    对深度学习的 UQ 方法进行了质量评估，比较了不同模型的不确定性估计质量。

    Aug, 2023