Sep, 2022

有意义的硬件故障：理解和估计硬件故障对目标检测深度神经网络安全影响

PDF
TL;DR本文提出了一种新的度量标准 IVMOD（Image-wise Vulnerability Metric for Object Detection），用来评估图像级别上的目标检测漏报或误报对模型安全性的影响，研究表明硬件错误（如单个位翻转）会导致模型产生严重的数据损坏事件，该工作详细阐述了此类关键工作负载受硬件故障影响的安全漏洞。
object detectionneural network modelssoft errorssafety-related impactivmod
发现论文，激发创造
  • 三维物体检测神经网络系统的安全加固

    研究如何通过安全规范、特定的损失函数以及安全感知的非极大值约束算法，使得神经网络在单阶段处理 3D 目标检测时更加具有可靠性与安全性，通过对当前最先进的 PIXOR 检测器的扩展说明了这一概念。

    Mar, 2020

  • 从安全和可靠性角度评价物体（误）检测的后果：讨论和措施

    本研究旨在通过建立物体关键性模型，提出新的物体检测评估措施来评估自动驾驶中物体检测的安全性和可靠性，并在 nuScenes 数据集上对九种物体检测器进行比较，结果表明，在多种情况下，根据 nuScenes 排名表现最好的物体检测器当重点关注安全性和可靠性时，并不是最好的选择。

    Mar, 2022

  • 自动驾驶中行人检测的安全适应损失

    本文提出了一种新颖的安全感知损失变化，利用训练过程中估计的每个行人的关键得分来提高关键行人检测性能，评估结果表明，使用我们的安全感知损失函数对关键行人进行训练可以减少漏检而不损害对非关键行人的检测性能。

    Feb, 2024

  • PVF（参数脆弱性系数）：衡量 AI 对参数损坏的脆弱性和恢复性的量化指标

    AI 硬件系统的复杂性和异质性使其对硬件故障（如位翻转）变得越来越容易受损，因此本文提出了一种新的量化指标 PVF 以评估 AI 模型对参数损坏的脆弱性，该指标可帮助硬件设计人员在保护系统免受故障的同时平衡性能和效率。

    May, 2024

  • 深度神经网络硬件故障攻击中的无恩劣化

    本研究探讨了硬件攻击给神经网络的参数带来的影响及其耐受能力，发现大部分模型对单一位比特翻转都有 10% 以上的分类精度下降，结果揭示了神经网络鲁棒性的局限性并提出了未来的研究方向。

    Jun, 2019

  • 提升物联网应用中轻量级神经网络对小物体检测的性能

    基于现有对象检测器，本论文提出一种新颖的自适应平铺方法，可用于微控制器上，以提高小物体的检测效果，实验证明该方法可将 F1 得分提高 225％，同时将平均物体计数误差降低至 76％，此外，结果还表明使用软 F1 损失函数可以显著减少数据不平衡带来的负面影响，并通过在索尼 Spresense 微控制器上的实验证明了该方法在检测性能、低延迟和内存消耗之间实现平衡。

    Nov, 2023

  • 零开销的故障感知设计和训练以提高 DNN 的可靠性

    本文提出一种针对深度神经网络在训练和模型设计时提高其可靠性的解决方案，旨在解决硬件故障导致对模型预测出现错误等问题。在研究中通过 DNN 重新设计、重新训练等方式，提出三种零附加成本的解决方案，可以在一定程度上提高 DNNs 对于瞬态故障的可靠性，并通过广泛的消融研究量化了每种硬化组件的性能提升。

    May, 2022

  • 目标检测中的平移等变性

    本文提出了一个基于贪婪搜索的评估指标，用于评估目标检测模型的平移等变性，发现许多现代目标检测模型对输入图像的微小平移都非常敏感，并探究了文献中的解决方案及其有效性，揭示了这种平移变异性的程度和可能因素的贡献，为开发缓解或利用这种变异性的方法奠定基础。

    Aug, 2020

  • 面向成本敏感的基于不确定性的物体检测故障识别

    为了提高对象检测的准确性和安全性，研究提出了一种基于阈值和不确定性的成本敏感的对象检测框架，用于避免错误检测。通过分析不同类型的不确定性与检测错误之间的相关性和成本，该方法自动优化阈值以最大化对指定预算的错误识别率，在自动驾驶数据集上的评估结果表明，该方法较传统方法提高了 36-60% 的错误识别率。

    Apr, 2024

  • 面向卷积神经网络的快速准确软错误仿真

    本文提出了一种基于误差模拟引擎的可靠性分析框架，通过利用从详细的故障注入活动中提取的一组经过验证的误差模型，定义卷积神经网络操作器输出的损坏模式，并在故障注入和错误模拟之间架起了一座桥梁，实现了结合两者优势的目的。实验结果表明，与 SASSIFI 相比，本文提出的方法在故障效应的函数错误模拟方面实现了约 99％的准确度，在与 TensorFI 的速度提升方面实现了 44x 至 63x 的范围。

    Jun, 2022