Jan, 2021

深度视觉自动驾驶系统的可解释性：综述与挑战

PDF
TL;DR这项调查综述了针对基于行为克隆训练的视觉自驾系统的可解释性方法。该综述从计算机视觉、深度学习、自动驾驶和可解释人工智能等多个研究领域收集贡献，并讨论了自驾车的解释性定义、动机、方法以及未来挑战。
发现论文，激发创造
  • 可解释人工智能在端到端自动驾驶中的安全影响

    当和如何可以解释性改善自动驾驶安全性是本文的主要研究领域和话题之间的关系。

    Mar, 2024

  • 可解释人工智能应用于安全可靠自动驾驶的系统性综述

    人工智能在自动驾驶的感知和规划任务中表现出优越性能，但不透明的人工智能系统加剧了自动驾驶的安全保障难题。为了缓解这一挑战，我们首次对透明解释性人工智能方法在安全可信自动驾驶领域进行了全面系统的文献综述。我们分析了自动驾驶中人工智能的要求，并针对数据、模型和机构三个关键方面提出了透明解释性人工智能的基本原则。在此基础上，我们提出了五个透明解释性人工智能对安全可信自动驾驶的关键贡献，包括可解释设计、可解释的代理模型、可解释的监控、辅助解释和可解释的验证。最后，我们提出了一个名为 SafeX 的模块化框架，将这些贡献集成起来，为用户提供解释并同时确保人工智能模型的安全性。

    Feb, 2024

  • 自动驾驶汽车的解释必要性研究

    研究证明，提供自动驾驶汽车行动解释具有许多优点，但人们需要什么样的解释及其关键程度在不同的驾驶情境下发生转变。该研究通过实验发现，驾驶者类型和驾驶场景决定是否需要解释，特别是在危机事件发生附近，人们往往同意必须提供解释。

    Jun, 2020

  • 推进可解释的自动驾驶车辆系统：综述与研究路线图

    通过全面回顾已有文献，本研究对解释性任务、解释性信息和解释性信息沟通这三个主要话题进行了分类，提出了一个综合的研究路线图，旨在指导解释性自动驾驶车辆的开发和部署，以确保在用户需求、技术进步、合规性和伦理考虑等方面具有更安全和可信赖的自主驾驶体验。

    Mar, 2024

  • 通过可视化因果关注实现自动驾驶车辆的可解释性学习

    本研究探讨了可解释的自动驾驶车辆中使用视觉解释的方法，使乘客、保险公司、执法机构和开发人员能够理解神经网络控制模型的行为，该模型采用了视觉关注模型进行训练，并应用因果过滤步骤来确定哪些输入区域实际上影响了输出。该方法在三个数据集上进行了有效性研究，证明了其在自动驾驶行为和人类驾驶行为中的应用价值。

    Mar, 2017

  • 通过学习端到端的视觉关注来解释自动驾驶

    通过使用注意力模型来提高 CARLA 驾驶模拟器的性能，同时通过模仿学习训练代理人来解释自动驾驶中深度学习无法解释的决策问题。

    Jun, 2020

  • 可解释的目标导向智能体和机器人 —— 综合评述

    该文章重点讨论解释目标驱动型智能代理人和机器人的方法，强调透明度、可理解性和持续学习的策略。它提出了可行的目标驱动可解释代理人和机器人的实现路径和要求。

    Apr, 2020

  • 利用视觉问答解释自主驾驶行为

    通过视觉问答 (VQA) 框架解释自动驾驶的决策，以提高驾驶安全性。

    Jul, 2023

  • 将解释引入自动驾驶车辆的人机界面以提升信任和情景感知

    自动驾驶汽车中人工智能的可解释性和人机界面对于建立信任起到重要作用，因此本研究探讨了可解释性人机系统的作用，提出了一种评估用户对自动驾驶行为的信任的情境感知框架，并通过实验证明了相关的经验结果。

    Apr, 2024

  • 自动驾驶车辆的文本解释

    本研究提出了一种基于神经网络、视觉的注意力模型和视频 - 文本模型的内向性解释方法，通过控制器和解释模型之间的注意力导图，生成可解释的行驶模型动作的文本描述，并与外向性解释模型的效果进行比较。

    Jul, 2018