深度神经网络在复杂感知系统方面起着重要作用，但为了确保其功能不足不会造成危害，除了静态验证和测试方法外，还需要运行时验证技术来检测关键事件、诊断问题并强制执行要求。本教程介绍了文献中提出的技术方法，包括机器学习界经典方法和形式方法界的一些技术，同时强调了严格设计监视器的重要性，其中操作域外的数据可用性起着重要作用。

Oct, 2023

该文提出了一个自我评估的能力 —— 内省，并基于此提出了一个模型，通过输入的感应器数据可可靠地预测给定任务下系统的失败。该模型在室外自然环境下的视觉自主微型飞行器飞行中表现出效果显著。

Jul, 2016

本文提出了一种基于风险分析的方法来设计自主系统感知模块，从而最小化感知误差对系统安全性的影响，并在真实的基于视觉的飞机避碰应用中证明，此方法可以将风险降低 37% 以上。

May, 2022

通过模型学习和故障检测机制，该论文提出了一种基于互动模仿学习的机器人监控算法，能够实时监测任务执行过程中的失败，并预测可能发生的故障，从而提高任务可靠性。

Oct, 2023

利用感知地图控制自主车辆的问题，设计针对该感知方案的闭环系统安全集和稳健控制器，方法是从复杂和非线性的数据中提取一些与状态相关的线性函数预测值，并在适当的稠密状态空间采样下学习参数，以获得有利的泛化性能。在合成示例和 CARLA 的自动驾驶模拟平台上验证了该方法的实用性。

Jul, 2019

通过应用深度学习方法，本研究论文考虑在干扰和测量噪声的存在下增强神经网络控制的非线性系统的运行时安全性。设计了一个稳健稳定的区间观测器，用于为神经网络、非线性函数和系统状态生成确切的下界和上界。所获得的区间用于实时监控系统安全性并检测系统输出或执行器中的故障。通过模拟自适应巡航控制车辆系统，演示了提出设计的有效性。

Mar, 2024

该教程主要关注以机器学习为基础的预测性监测，介绍了一种有效的方法来检测系统在当前状态下对给定要求的潜在违规情况，并提出使用深度学习和符合预测方法来解决计算效率和可靠性的挑战。

Dec, 2023

通过引入运行时异常监视器来检测和减轻闭环、系统级故障，本研究提出了一种基于可达性的框架对基于视觉的控制器进行线下压力测试和系统级故障挖掘，进而训练一个分类器用于在线标记可能导致系统故障的输入；同时，设计了一个备用控制器以强有力地处理检测到的异常，从而提高自主系统的安全性和鲁棒性。

Sep, 2023

本文综述了自动驾驶技术中感知系统中重要的一环 - 三维物体检测的研究进展以及应用，包括基于激光雷达和基于相机的方法，并分析了各自的优缺点和潜在的应用场景。

Jun, 2022

在现代自动驾驶领域中，感知系统是不可或缺的，它可以准确评估周围环境的状态，从而实现知情预测和规划。本研究重点研究了感知系统的鲁棒性、准确性和延迟性在实际情况下的评估，通过对基于摄像头、LiDAR 和多模态的 3D 物体检测算法进行全面评估，特别是在 KITTI-C 和 nuScenes-C 等数据集上进行公平比较，发现多模态的 3D 检测方法表现出更强的鲁棒性，并引入了一个新的分类系统以提高文献的清晰度。本调查旨在为当前三维物体检测算法在实际应用中的能力和限制提供更实用的视角，从而引导未来的研究朝向鲁棒性为中心的发展。

Jan, 2024