Jun, 2019

DropConnect 在建模贝叶斯深度网络不确定性方面非常有效

PDF
TL;DR本研究提出了一种名为 MC-DropConnect 的方法，通过给神经网络权重施加伯努利分布来近似 Bayesian 推断，从而在不改变基础结构或增加计算成本的情况下表示模型的不确定性，并用新的指标来量化不确定性的估计。实验证明，该框架相较于现有的技术，在预测准确性和不确定性估计质量方面均有显著提高。
deep neural networksbayesian inferenceuncertainty estimationmc-dropconnectprediction accuracy
发现论文，激发创造
  • SoftDropConnect (SDC) -- 深度 MR 图像分析中网络不确定性的有效和高效量化

    本文提出了一种新的贝叶斯推理方法 SoftDropConnect（SDC），该方法适用于医学图像任务中的神经网络不确定性，并将其与其他三种常用的贝叶斯推理方法 Bayes By Backprop、Dropout 和 DropConnect 进行了比较。结果表明，SDC-W 方法在肿瘤分割和转移灶分类任务准确率上的表现比其他三种方法高出很大一部分，并显著降低了推理过程中的双重不确定性，从而有望改善诊断表现并使医学 AI 图像更可靠。

    Jan, 2022

  • Dropout 作为贝叶斯近似：在深度学习中表示模型不确定性

    本研究发展了一种新的理论框架，将深度神经网络的 dropout 训练视为深高斯过程中的近似贝叶斯推断。我们的理论框架使我们能够通过 dropout 神经网络建模不确定性，从而解决了在深度学习中表示不确定性的问题，而不会牺牲计算复杂性或测试精度。

    Jun, 2015

  • 单次 MC Dropout 近似

    该研究旨在通过一种单次 MC 退火的方法来提高贝叶斯变体深度神经网络的测试时间，同时保持不确定性测量的优点。经过基准测试和模拟游戏等方面的验证，该方法能够在实时部署 BDNNs 时实现预测分布的点估计和不确定性估计。

    Jul, 2020

  • 通过采样强健地表示深度神经网络中的不确定性

    本研究测试了 Bernoulli 和 Gaussian 多元噪声采样的权重分别采用 multiplier masking 和 dropconnect 所训练出的神经元网络在 MNIST 和 CIFAR-10 数据集上的概率预测矫正性能。结论表明，在进行预测时进行 Bernoulli dropout 和 Gaussian dropconnect 的并行采样，可以得到 Spike-and-slab 变分分布，避免增加所学参数数量的同时，获得比 Bernoulli dropout 和 Gaussian dropconnect 都更准确和稳健的表征结果。

    Nov, 2016

  • 规模 - 丢弃：使用随机规模估计深度神经网络中的不确定性

    在本论文中，我们提出了一种用于二元神经网络（BNNs）的新型正则化技术 —— 比例 Dropout（Scale Dropout），以及基于蒙特卡罗比例 Dropout（MC-Scale Dropout）的 Bayesian NNs，用于有效地估计不确定性。我们引入了一种基于自旋电子存储器的计算内存（CIM）架构，相比最先进技术可实现超过 100 倍的能量节省。我们验证了我们的方法，结果显示相对于相关工作，我们的方法在预测性能上有 1% 的改进，并提供了更优的不确定性估计。

    Nov, 2023

  • 神经网络的单次贝叶斯逼近

    我们提出了一种快速的基于矩阵传播的近似方法，将神经网络转换成贝叶斯神经网络，实现对预测分布的点估计和不确定性估计，并通过与深度集成技术相结合进一步提高不确定性测量的性能。

    Aug, 2023

  • Dropout 蒸馏用于高效评估模型置信度

    本文提出了一种有效的方法，通过 Distilled Dropout Network（DDN）来使神经网络输出更好的校准不确定性得分，从而防止过度自信，具有与蒙特卡罗方法相当的校准结果和更高的分类准确性，同时在目标检测框架中实现更好的校准，并通过 COCO 数据集验证其有效性。

    Sep, 2018

  • 基于蒙特卡洛失活的贝叶斯神经网络施行旋转电子学测试

    Bayesian Neural Networks (BayNNs) and uncertainty estimation in spintronics-based computation-in-memory architectures are analyzed with a focus on the reliability of Dropout generation and BayNN computation, proposing a testing framework for Dropout-based BayNN with high fault coverage and minimal training data usage.

    Jan, 2024

  • 基于 MC-dropout 的脉冲神经网络高效不确定性估计

    提出了一种基于时间步机制和 Monte Carlo-Dropout 的 Spiking neural networks 不确定性估计方法，该方法在实现高精度和不确定质量的同时，不会在训练和推断过程中引入显著的额外开销，适用于能源高效应用。

    Apr, 2023

  • Dropout 作为贝叶斯近似：附录

    采用随机失活（dropout）技术的神经网络可以被等效地表示为贝叶斯模型的一种逼近，该方法可以帮助我们更好地理解神经网络中的不确定性并将贝叶斯方法引入深度学习框架。

    Jun, 2015