The growing advancements in autonomous vehicles (AVs) have emphasized the
critical need to prioritize the absolute safety of AV maneuvers, especially in
dynamic and unpredictable environments or situations. This objective becomes
even more challenging due to the uniqueness of every tra
本研究探讨了将人工智能（AI）整合到自动驾驶汽车（AVs）中的复杂性，研究了 AI 组件引入的挑战以及对测试程序的影响，重点关注了可信 AI 的一些基本要求。涵盖了 AI 在 AVs 的各个操作层面上的作用、欧盟 AI 法案对 AVs 的影响以及 ADAS 和 ADS 的新测试方法的需求。本文还对网络安全审核的重要性、AI 决策过程中的可解释性需求以及评估 AVs 中预测系统的稳健性和道德行为的协议进行了详细分析。该论文确定了重大挑战，并提出了 AI 在 AV 技术研究与发展中的未来方向，突出了跨学科专业知识的需求。
通过研究自动驾驶系统中基于人工智能的算法，本文探讨了人工智能模型的作用和挑战，特别是在复杂和高维环境中执行实时关键功能的软件元素。针对安全关键应用，为了减少 AI 模型过于自信带来的风险，提出了一些培训方法，如实现确定性报告架构和确保多样性训练数据。此外，还讨论了现有方法在安全关键应用中的适用性，强调了其优点和局限性，并提出了提高自动驾驶车辆中人工智能算法安全性和可靠性的潜在改进措施。