人工智能和深度学习技术的迅速发展促进了自动驾驶系统，但是这些系统仍受到来自不同攻击的威胁。此研究调查了可能危及自动驾驶系统的各种攻击，以及相应的最新防御机制，从而提出了一些有前途的研究方向以提高自动驾驶的安全性。

Apr, 2021

本文研究了机器学习算法，特别是深度神经网络在自动驾驶汽车、金融、医疗保健、自然语言处理和恶意软件检测等领域中的应用。然而，现有的方法主要忽略了包含 ML 组件的整个系统的语义和上下文，并提出了结果，支持总体系统的规格说明在研究中发挥至关重要的作用。

Apr, 2018

本文概述了自动驾驶中深度学习安全技术的概念、发展和最新研究。我们简要介绍了自动驾驶系统中的深度学习框架和流程，重点讨论每个功能层中基于深度学习的自动驾驶系统所面临的潜在安全威胁。调查了最新攻击算法，揭示了潜在的风险。最后，我们对自动驾驶领域中的深度学习安全性进行了展望，并提出建立安全可靠的自动驾驶系统的建议。

Oct, 2022

本研究探讨了将人工智能（AI）整合到自动驾驶汽车（AVs）中的复杂性，研究了 AI 组件引入的挑战以及对测试程序的影响，重点关注了可信 AI 的一些基本要求。涵盖了 AI 在 AVs 的各个操作层面上的作用、欧盟 AI 法案对 AVs 的影响以及 ADAS 和 ADS 的新测试方法的需求。本文还对网络安全审核的重要性、AI 决策过程中的可解释性需求以及评估 AVs 中预测系统的稳健性和道德行为的协议进行了详细分析。该论文确定了重大挑战，并提出了 AI 在 AV 技术研究与发展中的未来方向，突出了跨学科专业知识的需求。

Feb, 2024

通过研究典型 AI 代理的工作流程和体验，我们从系统安全的角度详细描述了 AI 代理中存在的潜在漏洞，强调了其原因和严重影响，并介绍了相应的防御机制及其有效性评估实验，从而让 AI 代理的安全性和可靠性得到进一步提升。

Jun, 2024

通过研究自动驾驶系统中基于人工智能的算法，本文探讨了人工智能模型的作用和挑战，特别是在复杂和高维环境中执行实时关键功能的软件元素。针对安全关键应用，为了减少 AI 模型过于自信带来的风险，提出了一些培训方法，如实现确定性报告架构和确保多样性训练数据。此外，还讨论了现有方法在安全关键应用中的适用性，强调了其优点和局限性，并提出了提高自动驾驶车辆中人工智能算法安全性和可靠性的潜在改进措施。

Feb, 2024

本文针对 AI - 机器人系统中的安全问题进行了综合调查和分类，考虑了攻击面、伦理和法律问题以及人机交互安全等领域，旨在提供对这些领域的整体理解以增强 AI - 机器人系统的安全性。

Oct, 2023

本文探讨了知识驱动的自动驾驶技术，并强调了当前自动驾驶系统存在的数据偏差敏感性、处理长尾场景的困难以及缺乏可解释性等限制。然而，具有认知、泛化和终身学习能力的知识驱动方法被视为克服这些挑战的有希望途径。本文通过利用大型语言模型、世界模型、神经渲染和其他先进的人工智能技术，系统梳理和回顾了该领域的先前研究工作，并为未来自动驾驶的研究和实际应用提供了洞见和指导。

Dec, 2023

过去十年中，对抗攻击算法揭示了深度学习工具的不稳定性，这些算法引发了与人工智能中的安全性、可靠性和可解释性相关的问题，尤其是在高风险环境中。从实际角度来看，攻击和防御策略开发者之间发生了一场升级战。在更理论层面上，研究人员还研究了关于攻击的存在和可计算性的更大问题。在这篇文章中，我们对该主题进行了简要概述，重点关注对应用和计算数学领域的研究人员可能感兴趣的方面。

Aug, 2023

该论文探讨了人工智能的发展带来的挑战，提出了在系统、架构和安全方面的研究方向，以解决 AI 技术存储和处理数据量的限制，并提高数据隐私保护，以便这一技术能够更好地改善人们的生活和社会。

Dec, 2017