Feb, 2023

深度神经网络在线黑盒置信度估计

PDF
TL;DR本文提出了一种用于估计任意深度神经网络分类置信度的指标 —— 邻域置信度 (NHC)，可用于自动驾驶和高级驾驶辅助系统中实时可行并且不需要访问梯度，训练数据集或保留验证数据集。在不同的数据分布下进行评估，包括小的领域分布移位，域外数据或对抗性攻击，结果表明，在低数据方案下，NHC 的表现优于或与一种在线的白盒置信度估计方法相当，这是自动驾驶和高级驾驶辅助系统所需的。
autonomous drivingadvanced driver assistance systemsdeep neural networksreal-time capable confidence estimationneighborhood confidence
发现论文，激发创造
  • 基于深度集成的自适应巡航控制的感知不确定性自动驾驶

    我们在这篇论文中开发了一个基于深度神经网络的集成回归器，用于自适应巡航控制中估计与前车的车头距离，并通过概率安全约束来实现跟踪速度和保持安全跟车距离的目标。

    Mar, 2024

  • 深度神经网络分类器的 PAC 置信度预测

    本文提出了一种新算法来构建深度神经网络的预测分类置信度，并证明了其正确性保证。此外，展示了如何利用预测置信度实现高速 DNN 推理和安全规划，并在实验中展示了其在最先进的 DNN 中提供保证的能力。

    Nov, 2020

  • 基于距离的神经网络分类器置信度

    本文提出了一种基于神经网络中数据嵌入的简单可扩展的可靠置信度评分方法，通过距离损失或对抗训练对得到的嵌入进行处理，比传统置信度评分在分类错误预测、加权分类器集成以及新颖性检测中表现更加优异。

    Sep, 2017

  • 利用密度建模在深度神经网络中进行置信度估计

    本文提出了一种基于密度建模的新型置信度度量方法，用以解决 State-of-the-art Deep Neural Networks 存在的小量对抗噪音引起高置信度预测不正确问题，并验证其在图像失真、随机噪声和对抗噪声等方面具有鲁棒性，相比传统方法 softmax，置信度得分更低。

    Jul, 2017

  • 自动驾驶数据集上的离群样本检测性能评估

    通过应用基于最可能的类条件高斯分布的 Mahalanobis 距离作为 OOD 分数来评估拒绝语义分割 DNN 的输出，该研究发现即使在未知数据集上应用，也可以显著降低分类风险，但会以像素覆盖率为代价。这些发现的适用性将有助于合法化安全措施并推动其在汽车感知中的安全使用的论证。

    Jan, 2024

  • 评估端到端自动驾驶控制中的不确定性量化

    本文讨论了 Deep Neural Networks 在自动驾驶领域中的应用，提出了一种实时提取不确定性量化度量的方法，并使用此方法预测了潜在的崩溃事件。

    Nov, 2018

  • 检测来自伪像的对抗性样本

    本文介绍了一种利用深度学习神经网络中 Bayesian 不确定性估计和密度估计的方法，可以实现对于对抗样本的检测，具有很好的泛化性能，并在标准分类任务上取得了 85-93% 的 ROC-AUC 表现。

    Mar, 2017

  • NADS: 基于神经体系结构分布搜索的不确定性感知

    提出了神经结构分布搜索 (Neural Architecture Distribution Search，NADS) 的指导原则来设计确定性感知架构，优化了随机的 Out-of-Distribution 检测目标，并构建了模型集合来执行 OoD 检测，在 15 个不同的测试配置中相对于最先进的方法准确率的提高高达 57％。

    Jun, 2020

  • Confidence-Nets: 面向小数据集回归神经网络更好预测区间的一步

    本文介绍了一种组合 DNN、XGBoost 和差异性计算技术的集成方法，用于估计预测的不确定性、提高准确性并提供预期变化的区间，其计算简单，适用于小数据集且性能提升显著，且模型的预测区间可平均包括实际值的 71％和 78％。

    Oct, 2022

  • 使用深度集成实现简单且可扩展的预测不确定性估计

    本研究提出了一种替代贝叶斯 NN 的简单实现方法，其能够产生高质量的预测不确定性估计，并在分类和回归数据集上进行了实验以证明这一点。此外，研究还评估了在已知和未知数据分布下的预测不确定性，并证明该方法能够在超出分布的样本上表现出更高的不确定性，同时在 ImageNet 上证明了该方法的可扩展性。

    Dec, 2016