本文讨论了深度学习方法在设计机器人、无人机或自动驾驶等自主代理感知管道中的不可或缺性，同时也指出了深度学习因安全问题限制了大规模应用的原因。本文针对深度学习的安全问题，提出了一些深入的技术层面的解决方法，并讨论了可能的缓解措施，以及还需要什么样的缓解措施来促进深度学习方法安全性的论点。

Jan, 2020

本文概述了自动驾驶中深度学习安全技术的概念、发展和最新研究。我们简要介绍了自动驾驶系统中的深度学习框架和流程，重点讨论每个功能层中基于深度学习的自动驾驶系统所面临的潜在安全威胁。调查了最新攻击算法，揭示了潜在的风险。最后，我们对自动驾驶领域中的深度学习安全性进行了展望，并提出建立安全可靠的自动驾驶系统的建议。

Oct, 2022

本文回顾了关于深度神经网络在安全关键系统中验证和验证方面的现有技术，并建议飞行器到汽车的知识转移和系统级的安全方法，例如安全笼架架构和模拟的系统测试案例。

Dec, 2018

本文应用正式的概率分析技术对一种通过感知深度神经网络（DNN）引导飞机滑行的实验自主系统进行了案例研究，通过使用代表性图像数据集计算 DNN 的混淆矩阵来替换摄像机和网络，构建紧凑的概率抽象，以解决感知 DNN、传感器和环境条件的复杂性所带来的挑战，并展示了如何利用本地、DNN 特定的分析作为运行时保护，以提高整个系统的安全性。

Feb, 2023

研究使用深度学习算法来实现自动驾驶，考虑到道路中非常脆弱的对象（如行人）的安全，文章使用参与式方法进行在线调查，以确定混淆一个语义类别与另一个语义类别的代价结构，并对调查结果进行了分析和讨论。

Jun, 2022

人工智能和深度学习技术的迅速发展促进了自动驾驶系统，但是这些系统仍受到来自不同攻击的威胁。此研究调查了可能危及自动驾驶系统的各种攻击，以及相应的最新防御机制，从而提出了一些有前途的研究方向以提高自动驾驶的安全性。

Apr, 2021

介绍了一种利用自动综合假设的方法，对基于深度神经网络的自主系统的安全属性进行形式化验证，生成最弱的假设并将其用作运行时监视器以保证整个系统的安全性，在一个来自自主飞行器领域的复杂视觉感知 DNN 案例上实现了该方法。

May, 2023

研究通过提出 50 个技术要求或最佳实践，扩展现有标准以考虑基于深度神经网络的系统的具体需求。研究还证明了这些要求的适用性、有用性和意义，在特定的 DNN 交通标志识别系统的审计中得到了验证。

Feb, 2023

自动驾驶面临重要的挑战：公众信任问题和长尾未知驾驶场景的安全担 忧。为解决这个问题，本文提倡在自动驾驶系统中整合大型语言模型，充分利用其强大的常识知识、推理能力和人机交互能力，将其作为智能决策者来提升整体自动驾驶性能和安全性。本文展示了两个案例研究的结果，证实了我们方法的有效性。此外，我们还讨论了将大型语言模型整合到其他自动驾驶软件组件 (包括感知、预测和仿真) 的潜在优势。尽管在案例研究中面临挑战，但大型语言模型的整合对于加强自动驾驶的安全性和性能具有潜在的希望和益处。

Nov, 2023

本研究提出一种基于双过程结构的人工智能认知架构，以解决深度神经网络在感知领域存在的安全性问题，该架构可以提供一种系统的方法来解决 AIP 的局限性，并确保达到人类级别的性能及以上。

May, 2022