利用不确定性指纹进行神经网络的并行自检
本篇论文提出了一种一次性测试方案,可以在使用 memristive crossbars 加速的神经网络中执行有效的失效测试,且只需一个测试向量,这可以有效减少内存开销和测试向量数量,同时提高失效覆盖率。
May, 2023
部署神经网络在资源受限的安全关键系统中面临不确定性和硬件非理想性所带来的挑战,该研究论文总结了一项 (四年级) 博士论文工作,该工作探索了深度学习中可扩展和高效的方法,包括计算内存 (Computation-in-Memory) 使用新兴的阻性非挥发性存储器来估计和降低不确定性。我们采用问题感知训练算法、新颖的神经网络拓扑结构和硬件协同设计解决方案,包括基于自旋电子器件的基于退化的二值贝叶斯神经网络和变分推理技术。这些创新显著提高了异常数据检测、推理准确性和能量效率,从而增加了神经网络实现的可靠性和鲁棒性。
Jan, 2024
本文讨论了 Deep Neural Networks 在自动驾驶领域中的应用,提出了一种实时提取不确定性量化度量的方法,并使用此方法预测了潜在的崩溃事件。
Nov, 2018
使用神经网络构建了一种代理模型以降低计算复杂性,并成功预测了用于辐射核能制备中的一些重要特性,如失活热和核素浓度,同时减少了计算成本和风险评估。
Aug, 2023
本文提出了一种快速特征生成技术,可以对深度神经网络进行快速的安全检测,尤其是可以在几秒钟内检测出所谓的后门 (backdoors),并且无需大量计算资源和训练数据。
Jul, 2020
本文提出一种针对深度神经网络在训练和模型设计时提高其可靠性的解决方案,旨在解决硬件故障导致对模型预测出现错误等问题。在研究中通过 DNN 重新设计、重新训练等方式,提出三种零附加成本的解决方案,可以在一定程度上提高 DNNs 对于瞬态故障的可靠性,并通过广泛的消融研究量化了每种硬化组件的性能提升。
May, 2022
介绍了使用专用硬件以提高 Spiking Neural Network 的性能和能源效率,但由于永久性故障可能会损坏权重存储器和神经元行为,导致系统故障和精度下降。提出了一种名为 RescueSNN 的新方法来解决这个问题,该方法通过有效的故障感知映射(FAM)和轻量级硬件增强实现 SNN 故障容错,从而显著降低了设计时间和重新训练成本,同时保持吞吐量和质量。实验结果显示,相比于没有进行 EEC 诊断和修复的芯片运行 SNN,使用 RescueSNN 可以提高精度并降低吞吐量的下降。
Apr, 2023
近年来,机器学习(ML)和神经网络(NNs)在各个领域广泛使用和受到关注,特别是在交通运输领域实现自主性,包括城市空中出租车(UAM)的出现。然而,对认证的担忧已经出现,强调了需要包含整个 ML 和 NN 管道的标准化过程的发展。本文深入研究了推理阶段和所需的硬件,突出了与 IEEE 754 浮点算术相关的挑战,并提出了替代的数字表示方法。通过评估不同的求和和点积算法,我们旨在减轻与非关联性有关的问题。此外,我们对定点算术的探索揭示了它相对于浮点方法的优势,显示出显著的硬件效率。采用经验方法,我们确定了实现可接受的精度所需的最佳位宽,考虑到位宽优化的固有复杂性。
Jan, 2024
本文提出了一种基于误差模拟引擎的可靠性分析框架,通过利用从详细的故障注入活动中提取的一组经过验证的误差模型,定义卷积神经网络操作器输出的损坏模式,并在故障注入和错误模拟之间架起了一座桥梁,实现了结合两者优势的目的。实验结果表明,与 SASSIFI 相比,本文提出的方法在故障效应的函数错误模拟方面实现了约 99%的准确度,在与 TensorFI 的速度提升方面实现了 44x 至 63x 的范围。
Jun, 2022