自动驾驶汽车的解释必要性研究

Jun, 2020

To Explain or Not to Explain: A Study on the Necessity of Explanations for Autonomous Vehicles

Yuan Shen, Shanduojiao Jiang, Yanlin Chen, Katie Driggs Campbell

TL;DR研究证明，提供自动驾驶汽车行动解释具有许多优点，但人们需要什么样的解释及其关键程度在不同的驾驶情境下发生转变。该研究通过实验发现，驾驶者类型和驾驶场景决定是否需要解释，特别是在危机事件发生附近，人们往往同意必须提供解释。

Abstract

explainable ai, in the context of autonomous systems, like self-driving cars, has drawn broad interests from researchers. Recent studies h

explainable ai autonomous systems self-driving cars explanation driver types

发现论文，激发创造

将解释引入自动驾驶车辆的人机界面以提升信任和情景感知

自动驾驶汽车中人工智能的可解释性和人机界面对于建立信任起到重要作用，因此本研究探讨了可解释性人机系统的作用，提出了一种评估用户对自动驾驶行为的信任的情境感知框架，并通过实验证明了相关的经验结果。

Apr, 2024

自动驾驶车辆的行为解释中涉及人的属性和目的

AI 系统的关键是提供用户可以理解和采取行动的解释。本论文通过对认知科学和解释相关的文献研究，以及调查人们对自主驾驶车辆行为解释的生成和评价，发现人们倾向于用目的论解释决策和行为，无论是对于其他人还是自主驾驶车辆都表现出这一倾向。研究结果促进了对于自主驾驶决策的人工注释视频情况和解释数据集 (HEADD) 的进一步研究。

Mar, 2024

可解释人工智能在端到端自动驾驶中的安全影响

当和如何可以解释性改善自动驾驶安全性是本文的主要研究领域和话题之间的关系。

Mar, 2024

深度视觉自动驾驶系统的可解释性：综述与挑战

这项调查综述了针对基于行为克隆训练的视觉自驾系统的可解释性方法。该综述从计算机视觉、深度学习、自动驾驶和可解释人工智能等多个研究领域收集贡献，并讨论了自驾车的解释性定义、动机、方法以及未来挑战。

Jan, 2021

自动驾驶车辆的文本解释

本研究提出了一种基于神经网络、视觉的注意力模型和视频 - 文本模型的内向性解释方法，通过控制器和解释模型之间的注意力导图，生成可解释的行驶模型动作的文本描述，并与外向性解释模型的效果进行比较。

Jul, 2018

自动驾驶中解释细节对乘客的影响

本文研究了自然语言解释的详细程度对无人驾驶汽车中乘客的影响，结果显示，自然语言解释对提高乘客的感知安全和减轻焦虑情绪有类似的积极效果，但详细的解释会影响乘客希望掌控驾驶行为的意愿。

Jul, 2023

推进可解释的自动驾驶车辆系统：综述与研究路线图

通过全面回顾已有文献，本研究对解释性任务、解释性信息和解释性信息沟通这三个主要话题进行了分类，提出了一个综合的研究路线图，旨在指导解释性自动驾驶车辆的开发和部署，以确保在用户需求、技术进步、合规性和伦理考虑等方面具有更安全和可信赖的自主驾驶体验。

Mar, 2024

自动驾驶解释对驾驶员信任、偏爱、焦虑和心理负荷的影响

本研究在 32 名实验参与者中使用四种不同条件进行了模拟试驾实验，分别是: (1) 无解释，(2) AV 行动前给出解释，(3) AV 行动后给出解释和 (4) 驾驶员听取解释后选择是否批准 AV 的行动。结果表明，在 AV 行动前提供的解释与更高的信任度和喜好度相关联，但焦虑和心理负荷没有区别。这些结果对于 AV 的采纳有重要的启示作用。

May, 2019

利用视觉问答解释自主驾驶行为

通过视觉问答 (VQA) 框架解释自动驾驶的决策，以提高驾驶安全性。

Jul, 2023

可解释的自主机器人：一项调查与展望

该研究论文探讨自主机器人技术中关于 “可解释性” 的研究进展与定义，进而进行相关领域的研究概述，并提出需要深入研究的关键主题。

May, 2021