本文回顾了关于深度神经网络在安全关键系统中验证和验证方面的现有技术，并建议飞行器到汽车的知识转移和系统级的安全方法，例如安全笼架架构和模拟的系统测试案例。

Dec, 2018

使用形式验证方法评估了一个用于飞机滑行阶段的图像分类器深度神经网络 (DNN) 在噪声、亮度和对比度以及它们的组合等三种常见图像扰动类型下的鲁棒性，结果表明该分类器对噪声比亮度和对比度扰动更加脆弱。

Jan, 2024

DeepCert 是一种通过支持真实世界图像扰动的编码和系统评估上下文相关的 DNN 鲁棒性以及通过生成上下文相关反例选择适合操作环境的 DNN 图像分类器的工具，可用于验证 DNN 图像分类器的健壮性。

Mar, 2021

近年来，机器学习（ML）技术在人工智能（AI）系统领域取得了显著进展，为航空业带来了前所未有的自动化机会，包括大型商用飞机的单人驾驶或完全自主飞行。然而，ML 技术与现有的空中认证标准存在严重不兼容性，如 ML 模型的可追踪性和可解释性问题，或者传统覆盖度指标的不适用性。当前标准下使用基于 ML 的空中系统的认证存在问题。本文通过一个案例研究，介绍了一个利用深度神经网络（DNN）进行机场标志检测和分类的空中系统。在我们之前的工作基础上，证明了系统符合设计保证等级（DAL）D 的要求，我们将系统升级以满足更严格的设计保证等级 C 的要求。为了实现 DAL C，我们采用了一种已建立的架构缓解技术，涉及两个冗余且不同的深度神经网络。对于这种方法，采用了创新的 ML 特定数据管理技术进行加强。本文旨在说明如何解决中等重要性空中应用中基于 ML 的系统的认证挑战。

Oct, 2023

基于深度学习的认证在安全关键应用中是一个非常重要的问题，本文通过研究使用于航空等安全关键领域的实际问题，调查机器学习研究社区中针对深度学习系统鲁棒性和可靠性验证的方法学，并提出了一个新的基于安全设计和运行时错误检测的深度学习认证框架。

Mar, 2024

通过使用 DNN 验证技术，我们引入了一种新的方法来识别具有稳健泛化能力的 DNN 决策规则，并在真实世界环境中进行了广泛评估，为部署 DNN 驱动系统提供了新的验证目标。

Jun, 2024

该论文提出了一种名为 TheDeepChecker 的端到端基于属性的调试方法，以检测深度神经网络训练程序中的编码错误和系统失配，并表明其在检测准确性和深度学习故障覆盖面方面优于 Amazon SageMaker Debugger（SMD）的离线规则验证。

Apr, 2022

本文应用正式的概率分析技术对一种通过感知深度神经网络（DNN）引导飞机滑行的实验自主系统进行了案例研究，通过使用代表性图像数据集计算 DNN 的混淆矩阵来替换摄像机和网络，构建紧凑的概率抽象，以解决感知 DNN、传感器和环境条件的复杂性所带来的挑战，并展示了如何利用本地、DNN 特定的分析作为运行时保护，以提高整个系统的安全性。

Feb, 2023

该论文将机器学习应用于自主飞行中的视觉着陆，并建立了一个模型无关且工具独立的认证框架，以解决机器学习模型的可信度与航空认证之间的挑战。

Oct, 2023

本篇论文介绍了在安全重要应用领域中使用深度神经网络的问题，针对其可靠性和安全性的担忧，提出了采用形式化验证来保证其运行符合预期，并通过两个方向，即设计可扩展性的验证技术和识别可验证的深度学习系统的设计选择来缓解这一挑战。

Jan, 2018