本文应用正式的概率分析技术对一种通过感知深度神经网络（DNN）引导飞机滑行的实验自主系统进行了案例研究，通过使用代表性图像数据集计算 DNN 的混淆矩阵来替换摄像机和网络，构建紧凑的概率抽象，以解决感知 DNN、传感器和环境条件的复杂性所带来的挑战，并展示了如何利用本地、DNN 特定的分析作为运行时保护，以提高整个系统的安全性。

Feb, 2023

本文针对包含机器学习组件的自动驾驶系统，提出了一个测试框架，利用测试用例生成和自动实现方法进行评估，并演示了如何使用覆盖数组等测试用例生成方法以及需求实现方法来自动识别问题情景，从而提高自动驾驶系统的可靠性。

Apr, 2018

本文回顾了关于深度神经网络在安全关键系统中验证和验证方面的现有技术，并建议飞行器到汽车的知识转移和系统级的安全方法，例如安全笼架架构和模拟的系统测试案例。

Dec, 2018

本文考虑了使用神经网络控制器的自主机器人的安全性问题。通过构建系统的一个有限状态抽象并使用标准的可达性分析方法，计算出一组安全的初始状态，使得从这些初始状态开始的机器人轨迹能够避开多面体障碍物。

Oct, 2018

近期深度学习领域的进展以及深度神经网络对感知任务取得的出色表现，引发了在自动驾驶系统中使用它们的需求。为了系统地保证基于深度神经网络的自动驾驶系统的安全性，本文引入了一种称为安全关注的结构化元素，扩展和完善了其概念，并引入了额外的分类，以促进跨职能团队共同解决相关问题。

Sep, 2023

本篇论文介绍了在安全重要应用领域中使用深度神经网络的问题，针对其可靠性和安全性的担忧，提出了采用形式化验证来保证其运行符合预期，并通过两个方向，即设计可扩展性的验证技术和识别可验证的深度学习系统的设计选择来缓解这一挑战。

Jan, 2018

本文提出了一个基于贝叶斯分析的安全性论据框架，该框架使用运行数据和最新的深度学习验证技术，支持多种形式的预测，并针对实际的关键系统进行了建模和验证。

Mar, 2020

本文研究如何使用形式化验证技术对增强学习 - enabled 机器学习系统进行验证，以保证其行为安全，并提出了一种基于黑盒方法的综合确定性程序的方法来实现系统验证。

Jul, 2019

通过定性和定量安全性验证问题的综合合成有效的神经屏障证书，本文提出了一种用于 DNN 控制系统的新型框架，并通过 $ extsf {UniQQ}$ 工具在四个经典 DNN 控制系统上展示了其有效性。

Apr, 2024

本研究提出一种基于双过程结构的人工智能认知架构，以解决深度神经网络在感知领域存在的安全性问题，该架构可以提供一种系统的方法来解决 AIP 的局限性，并确保达到人类级别的性能及以上。

May, 2022