Jan, 2024

基于蒙特卡洛失活的贝叶斯神经网络施行旋转电子学测试

PDF
TL;DRBayesian Neural Networks (BayNNs) and uncertainty estimation in spintronics-based computation-in-memory architectures are analyzed with a focus on the reliability of Dropout generation and BayNN computation, proposing a testing framework for Dropout-based BayNN with high fault coverage and minimal training data usage.
bayesian neural networksdropout-based baynnsspintronics-based computation-in-memory architecturesuncertainty estimationtesting framework
发现论文，激发创造
  • 规模 - 丢弃：使用随机规模估计深度神经网络中的不确定性

    在本论文中，我们提出了一种用于二元神经网络（BNNs）的新型正则化技术 —— 比例 Dropout（Scale Dropout），以及基于蒙特卡罗比例 Dropout（MC-Scale Dropout）的 Bayesian NNs，用于有效地估计不确定性。我们引入了一种基于自旋电子存储器的计算内存（CIM）架构，相比最先进技术可实现超过 100 倍的能量节省。我们验证了我们的方法，结果显示相对于相关工作，我们的方法在预测性能上有 1% 的改进，并提供了更优的不确定性估计。

    Nov, 2023

  • Spatial-SpinDrop: 基于空间 dropout 的二进制贝叶斯神经网络及自旋电子学实现

    本篇论文介绍了一种采用 MC-SpatialDropout 技术的空间 dropout 的 BayNNs 方法，该方法使用尺度剪枝和自旋体制，以降低硬件成本和能耗，并且在有效降低能源消耗的前提下保持了较高的准确性。

    Jun, 2023

  • 神经网络的单次贝叶斯逼近

    我们提出了一种快速的基于矩阵传播的近似方法，将神经网络转换成贝叶斯神经网络，实现对预测分布的点估计和不确定性估计，并通过与深度集成技术相结合进一步提高不确定性测量的性能。

    Aug, 2023

  • 面向 FPGA 的硬件感知神经网络丢弃搜索用于可靠的不确定性预测

    提出了一种新的神经随机丢失搜索框架，旨在自动优化既有基于 dropout 的 Bayesian 神经网络及其硬件 FPGA 实现，实验结果表明该框架能够有效地找到 Pareto 最优设计配置。

    Jun, 2024

  • Dropout 作为贝叶斯近似：在深度学习中表示模型不确定性

    本研究发展了一种新的理论框架，将深度神经网络的 dropout 训练视为深高斯过程中的近似贝叶斯推断。我们的理论框架使我们能够通过 dropout 神经网络建模不确定性，从而解决了在深度学习中表示不确定性的问题，而不会牺牲计算复杂性或测试精度。

    Jun, 2015

  • 在 FPGA 上增强基于 Dropout 的贝叶斯神经网络的多出口

    本文提出了一个算法和硬件协同设计框架，该框架可以为高效的基于 FPGA 的 Bayesian 神经网络生成加速器，以减少计算和内存负载，并实现更高的能源效率。

    Jun, 2024

  • 基于 MC-dropout 的脉冲神经网络高效不确定性估计

    提出了一种基于时间步机制和 Monte Carlo-Dropout 的 Spiking neural networks 不确定性估计方法，该方法在实现高精度和不确定质量的同时，不会在训练和推断过程中引入显著的额外开销，适用于能源高效应用。

    Apr, 2023

  • 单次 MC Dropout 近似

    该研究旨在通过一种单次 MC 退火的方法来提高贝叶斯变体深度神经网络的测试时间，同时保持不确定性测量的优点。经过基准测试和模拟游戏等方面的验证，该方法能够在实时部署 BDNNs 时实现预测分布的点估计和不确定性估计。

    Jul, 2020

  • 通过采样强健地表示深度神经网络中的不确定性

    本研究测试了 Bernoulli 和 Gaussian 多元噪声采样的权重分别采用 multiplier masking 和 dropconnect 所训练出的神经元网络在 MNIST 和 CIFAR-10 数据集上的概率预测矫正性能。结论表明，在进行预测时进行 Bernoulli dropout 和 Gaussian dropconnect 的并行采样，可以得到 Spike-and-slab 变分分布，避免增加所学参数数量的同时，获得比 Bernoulli dropout 和 Gaussian dropconnect 都更准确和稳健的表征结果。

    Nov, 2016

  • 当蒙特卡罗 Dropout 遇到多出口：在 FPGA 上优化贝叶斯神经网络

    本研究提出了一种新颖的多出口 Monte-Carlo Dropout（MCD）Bayesian 神经网络，实现了具有低算法复杂度的良好校准预测。此外，我们还提出了一个转换框架，可为多出口 MCD BayesNN 生成基于 FPGA 的加速器，以进一步降低采用 BayesNNs 的障碍。通过引入几种新颖的优化技术，我们的实验表明，我们的自动生成的加速器比 CPU、GPU 和其他最先进的硬件实现具有更高的能量效率。

    Aug, 2023