自动驾驶汽车中人工智能的可解释性和人机界面对于建立信任起到重要作用，因此本研究探讨了可解释性人机系统的作用，提出了一种评估用户对自动驾驶行为的信任的情境感知框架，并通过实验证明了相关的经验结果。

Apr, 2024

这项调查综述了针对基于行为克隆训练的视觉自驾系统的可解释性方法。该综述从计算机视觉、深度学习、自动驾驶和可解释人工智能等多个研究领域收集贡献，并讨论了自驾车的解释性定义、动机、方法以及未来挑战。

Jan, 2021

研究证明，提供自动驾驶汽车行动解释具有许多优点，但人们需要什么样的解释及其关键程度在不同的驾驶情境下发生转变。该研究通过实验发现，驾驶者类型和驾驶场景决定是否需要解释，特别是在危机事件发生附近，人们往往同意必须提供解释。

Jun, 2020

该研究论文探讨自主机器人技术中关于 “可解释性” 的研究进展与定义，进而进行相关领域的研究概述，并提出需要深入研究的关键主题。

May, 2021

基于 “物体引导” 模型方法和 Beta 先验的证据深度学习范式，该研究提出了一种解释自动驾驶车辆决策的方法，通过集成不确定性评估来克服复杂驾驶场景中可靠性方面的挑战，并在基于 BDD-OIA 数据集的实验中证明该模型在各种情景下优于现有基准模型。

Feb, 2024

当和如何可以解释性改善自动驾驶安全性是本文的主要研究领域和话题之间的关系。

Mar, 2024

人工智能在自动驾驶的感知和规划任务中表现出优越性能，但不透明的人工智能系统加剧了自动驾驶的安全保障难题。为了缓解这一挑战，我们首次对透明解释性人工智能方法在安全可信自动驾驶领域进行了全面系统的文献综述。我们分析了自动驾驶中人工智能的要求，并针对数据、模型和机构三个关键方面提出了透明解释性人工智能的基本原则。在此基础上，我们提出了五个透明解释性人工智能对安全可信自动驾驶的关键贡献，包括可解释设计、可解释的代理模型、可解释的监控、辅助解释和可解释的验证。最后，我们提出了一个名为 SafeX 的模块化框架，将这些贡献集成起来，为用户提供解释并同时确保人工智能模型的安全性。

Feb, 2024

AI 系统的关键是提供用户可以理解和采取行动的解释。本论文通过对认知科学和解释相关的文献研究，以及调查人们对自主驾驶车辆行为解释的生成和评价，发现人们倾向于用目的论解释决策和行为，无论是对于其他人还是自主驾驶车辆都表现出这一倾向。研究结果促进了对于自主驾驶决策的人工注释视频情况和解释数据集 (HEADD) 的进一步研究。

Mar, 2024

自动驾驶汽车技术快速发展，对道路交通安全产生了重大影响，同时也解决了多种复杂的交通问题。为了确保自动驾驶汽车之间以及自动驾驶汽车与人类驾驶员之间的合作互动，本研究提出了一个多阶段的方法，采用共享和关怀的车对车通信策略来加强协同行为。通过进行一项调查来验证自动驾驶汽车的驾驶性能，并可用于一个混合交通案例研究，重点研究人类驾驶员如何对待与他们同时驾驶在同一条道路上的自动驾驶汽车。研究结果表明，采用深度强化学习，自动驾驶车辆获得了接近人类驾驶性能的驾驶行为。在自动驾驶汽车网络中采用共享和关怀的车对车通信可以提高其驾驶行为，促进更有效的行动计划，并增进自动驾驶汽车之间的合作行为。调查结果显示，无法保证混合交通中的安全性，因为我们无法控制人类驾驶员出于自我的行为，如果他们决定与自动驾驶汽车竞争。因此，本研究倡导加强对自动驾驶汽车在公共道路上安全融入的研究。

Dec, 2023

本研究探讨了将人工智能（AI）整合到自动驾驶汽车（AVs）中的复杂性，研究了 AI 组件引入的挑战以及对测试程序的影响，重点关注了可信 AI 的一些基本要求。涵盖了 AI 在 AVs 的各个操作层面上的作用、欧盟 AI 法案对 AVs 的影响以及 ADAS 和 ADS 的新测试方法的需求。本文还对网络安全审核的重要性、AI 决策过程中的可解释性需求以及评估 AVs 中预测系统的稳健性和道德行为的协议进行了详细分析。该论文确定了重大挑战，并提出了 AI 在 AV 技术研究与发展中的未来方向，突出了跨学科专业知识的需求。

Feb, 2024