本技术报告在安全关键应用中，研究了用于图像分类的经过训练的卷积神经网络（CNN）的验证结果。通过使用 ANSI/UL 4600 和 ISO 21448 等新标准，结合现有标准 EN 50128 和 EN 50129，证明了类似 Grade of Automation (GoA) 4 的货运自动列车系统确实可以被认证。此外，通过传感器 / 感知器融合，进行了系统级危险率的定量分析，以满足可接受的安全完整性等级（SIL-3）。对 CNN 模型进行了数学分析，从中识别出分类集群和等价类，划分了 CNN 的图像输入空间。利用这些集群和类别，介绍了一种新的统计测试方法，用于确定经过训练的 CNN 的剩余误差概率及其相关的上限置信度。我们认为，考虑到 CNN 模型的内部结构，这种灰箱方法对于证明统计测试全面覆盖了训练过的 CNN 及其神经元和层间映射是至关重要的。

Dec, 2023

本文提出了一个基于贝叶斯分析的安全性论据框架，该框架使用运行数据和最新的深度学习验证技术，支持多种形式的预测，并针对实际的关键系统进行了建模和验证。

Mar, 2020

本文提出了一种有效的方法来严格检查神经网络的不同安全属性，可以检查不同的安全属性并找到具体的反例，比现有方法的性能提高了数个数量级，这种方法也有助于提高神经网络的可解释性并指导训练更加稳健的神经网络。

Sep, 2018

该篇论文调查了神经网络的近似性质，特别是使用 ReLU 激活函数的非线性流形，并比较了这种近似方法与传统数值分析中使用的近似方法之间的差异，着重分析了数值稳定性问题，发现在一定程度上提高了近似能力，但以数值稳定性为代价。

Dec, 2020

本研究提出一种基于 Satisfiability Modulo Theory (SMT) 的新型自动化验证框架，旨在保证深度神经网络对于图像操作的安全性，能够发现对于给定操作范围和家族，对抗性样本是否存在，同时比较现有的相关技术。

Oct, 2016

通过扩展现有认证标准中必不可少的可理解性、正确性和有效性等概念，我们提出了一种设计可靠人工神经网络（ANN）的方法论，并将其应用于一个具体的案例研究中，设计了一个高速公路 ANN 基础运动预测器，以确保安全特性，例如如果其右侧有其他车辆，则无法建议自车向右车道移动。

Sep, 2017

研究神经网络在伪随机比特序列或有限存储深度的系统中应用接收机可能高估性能表现，并提出可通过模式预测而非随机预测或补偿来获得大量人工收益。

Sep, 2017

提出了一种通过使用 SMT 求解器修复有关安全规范的不安全神经网络，以防止对抗攻击，并且通过修改少量的权重值来寻找新的安全神经网络表示，从而最大限度地保持决策边界相似性，同时保证只有轻微的准确度损失，证明了该方法的实用性。

Jul, 2022

基于神经网络的激活模式和操作数据的近似分布，我们提出了一种基于约束的方法，通过重塑初始测试集来重新评估神经网络的安全性能，以解决协变量转移对操作安全性能的影响问题。

Jul, 2023

近年来，机器学习（ML）和神经网络（NNs）在各个领域广泛使用和受到关注，特别是在交通运输领域实现自主性，包括城市空中出租车（UAM）的出现。然而，对认证的担忧已经出现，强调了需要包含整个 ML 和 NN 管道的标准化过程的发展。本文深入研究了推理阶段和所需的硬件，突出了与 IEEE 754 浮点算术相关的挑战，并提出了替代的数字表示方法。通过评估不同的求和和点积算法，我们旨在减轻与非关联性有关的问题。此外，我们对定点算术的探索揭示了它相对于浮点方法的优势，显示出显著的硬件效率。采用经验方法，我们确定了实现可接受的精度所需的最佳位宽，考虑到位宽优化的固有复杂性。

Jan, 2024