本技术报告在安全关键应用中，研究了用于图像分类的经过训练的卷积神经网络（CNN）的验证结果。通过使用 ANSI/UL 4600 和 ISO 21448 等新标准，结合现有标准 EN 50128 和 EN 50129，证明了类似 Grade of Automation (GoA) 4 的货运自动列车系统确实可以被认证。此外，通过传感器 / 感知器融合，进行了系统级危险率的定量分析，以满足可接受的安全完整性等级（SIL-3）。对 CNN 模型进行了数学分析，从中识别出分类集群和等价类，划分了 CNN 的图像输入空间。利用这些集群和类别，介绍了一种新的统计测试方法，用于确定经过训练的 CNN 的剩余误差概率及其相关的上限置信度。我们认为，考虑到 CNN 模型的内部结构，这种灰箱方法对于证明统计测试全面覆盖了训练过的 CNN 及其神经元和层间映射是至关重要的。

Dec, 2023

本文提出了一种名为 APPRAISER 的新型弹性评估方法，旨在通过采用近似计算错误的概念，为保障安全性的深度神经网络（DNN）体系结构而设计，以解决现有方法中时间、设计和控制复杂性的各种问题，它可以在评估过程中提供数千倍的加速，并保持高准确性。

May, 2023

使用 PyTorchALFI 框架，引入了故障注入方法用于测试神经网络模型，包括定义测试场景、软件架构和分析测试结果等内容。

Oct, 2023

本文研究了 DNN 加速器的逼近计算和容错能力，提出使用逼近算术电路代替昂贵的故障注入检测，并开发了 GPU 模拟方法，同时通过网络故障的传播和掩蔽来实现精细化容错分析

May, 2023

通过对关键组件施加错误和注入故障，本文介绍了一种专为全连接和卷积脉冲神经网络设计的新型故障注入器 SpikingJET。通过对各种脉冲神经网络架构进行广泛的软件级实验，该论文展示了 SpikingJET 的有效性，并揭示了脉冲神经网络对硬件故障的脆弱性和韧性，进一步凸显了脉冲神经网络的故障韧性对于提高神经网络驱动系统在不同领域中的可靠性和安全性所起到的重要作用。

Mar, 2024

模型提取是一种关键的安全威胁，它通过算法和基于实现的方法进行攻击，我们关注嵌入式深度神经网络模型及标准错误攻击策略以进行模型提取攻击，成功地恢复了至少 90% 最显著位，并仅使用 8% 的训练数据集训练出了与受害模型近乎相同精度的替代模型。

Aug, 2023

本文介绍了一种适用于卷积神经网络的模型级加固方法，通过将纠错直接集成到神经网络中来提高其容错性。该方法与硬件无关且不需要对底层加速器设备进行任何更改。通过分析参数的脆弱性，该方法能够复制一些选择性的滤波器 / 神经元，以便通过高效且稳健的纠错层有效地对其输出通道进行纠正。该方法与基于 TMR 的修复几乎具有相当的容错性能，但开销显著减少。此外，还提出了一种基于参数脆弱性的经济实惠的剪枝技术，优于传统的剪枝方法，能够生成更小且精度损失可忽略的网络。值得注意的是，经过加固的剪枝型卷积神经网络的性能比经过加固但未剪枝的网络快达 24%。

May, 2024

在这篇论文中，我们提出了一种代表神经网络在线故障状态的不确定性指纹方法，同时提出了一种双头神经网络拓扑结构，可以在一次推理过程中产生不确定性指纹和主要预测结果，从而实现高覆盖率的并发自测试神经网络，减少内存开销，降低错误率。

Jan, 2024

本文提出 ISimDL 这一新的方法，通过神经元灵敏度生成重要性抽样型的错误场景，以提高对深度学习系统鲁棒性的分析效率，并基于此提出一种名为 Fault Aware Training（FAT）的新方法，该方法可减少 12 倍以上的精度降低开销。

Mar, 2023

本文提出一种针对深度神经网络在训练和模型设计时提高其可靠性的解决方案，旨在解决硬件故障导致对模型预测出现错误等问题。在研究中通过 DNN 重新设计、重新训练等方式，提出三种零附加成本的解决方案，可以在一定程度上提高 DNNs 对于瞬态故障的可靠性，并通过广泛的消融研究量化了每种硬化组件的性能提升。

May, 2022