将解释引入自动驾驶车辆的人机界面以提升信任和情景感知

Apr, 2024

将解释引入自动驾驶车辆的人机界面以提升信任和情景感知

Incorporating Explanations into Human-Machine Interfaces for Trust and Situation Awareness in Autonomous Vehicles

Shahin Atakishiyev, Mohammad Salameh, Randy Goebel

TL;DR自动驾驶汽车中人工智能的可解释性和人机界面对于建立信任起到重要作用，因此本研究探讨了可解释性人机系统的作用，提出了一种评估用户对自动驾驶行为的信任的情境感知框架，并通过实验证明了相关的经验结果。

Abstract

autonomous vehicles often make complex decisions via machine learning-based predictive models applied to collected sensor data. While this combination of methods provides a foundation for real-time actions, self-driving

autonomous vehicles explainable ai human-machine interface trust self-driving behavior

发现论文，激发创造

自动驾驶汽车的解释必要性研究

研究证明，提供自动驾驶汽车行动解释具有许多优点，但人们需要什么样的解释及其关键程度在不同的驾驶情境下发生转变。该研究通过实验发现，驾驶者类型和驾驶场景决定是否需要解释，特别是在危机事件发生附近，人们往往同意必须提供解释。

Jun, 2020

自动驾驶车辆的行为解释中涉及人的属性和目的

AI 系统的关键是提供用户可以理解和采取行动的解释。本论文通过对认知科学和解释相关的文献研究，以及调查人们对自主驾驶车辆行为解释的生成和评价，发现人们倾向于用目的论解释决策和行为，无论是对于其他人还是自主驾驶车辆都表现出这一倾向。研究结果促进了对于自主驾驶决策的人工注释视频情况和解释数据集 (HEADD) 的进一步研究。

Mar, 2024

推进可解释的自动驾驶车辆系统：综述与研究路线图

通过全面回顾已有文献，本研究对解释性任务、解释性信息和解释性信息沟通这三个主要话题进行了分类，提出了一个综合的研究路线图，旨在指导解释性自动驾驶车辆的开发和部署，以确保在用户需求、技术进步、合规性和伦理考虑等方面具有更安全和可信赖的自主驾驶体验。

Mar, 2024

可解释人工智能在端到端自动驾驶中的安全影响

当和如何可以解释性改善自动驾驶安全性是本文的主要研究领域和话题之间的关系。

Mar, 2024

人机协同的可解释界面：一项综述

本文从以人为中心的角度对人工智能可解释性界面在人工智能增强的人机协作系统中的透明性挑战进行了深入研究，并提出了一个用于评估该界面的新框架。通过在可解释人工智能、人机协作以及人机交互等领域进行广泛调查，该研究提供了多个新见解，探讨了将可解释人工智能整合到人工智能增强的人机协作系统中的未来方向。

May, 2024

可解释人工智能应用于安全可靠自动驾驶的系统性综述

人工智能在自动驾驶的感知和规划任务中表现出优越性能，但不透明的人工智能系统加剧了自动驾驶的安全保障难题。为了缓解这一挑战，我们首次对透明解释性人工智能方法在安全可信自动驾驶领域进行了全面系统的文献综述。我们分析了自动驾驶中人工智能的要求，并针对数据、模型和机构三个关键方面提出了透明解释性人工智能的基本原则。在此基础上，我们提出了五个透明解释性人工智能对安全可信自动驾驶的关键贡献，包括可解释设计、可解释的代理模型、可解释的监控、辅助解释和可解释的验证。最后，我们提出了一个名为 SafeX 的模块化框架，将这些贡献集成起来，为用户提供解释并同时确保人工智能模型的安全性。

Feb, 2024

利用解释桥接人工智能和人类

该研究论文提出了解释性机器学习方法来提高人类决策水平和人工智能协助决策效能之间的差距。

Mar, 2020

深度视觉自动驾驶系统的可解释性：综述与挑战

这项调查综述了针对基于行为克隆训练的视觉自驾系统的可解释性方法。该综述从计算机视觉、深度学习、自动驾驶和可解释人工智能等多个研究领域收集贡献，并讨论了自驾车的解释性定义、动机、方法以及未来挑战。

Jan, 2021

解释自己！解释在人机交互中的影响

研究通过比较两个游戏机器人的表现来探究机器人决策解释对人类感知的影响，发现机器人提供解释并不能改变机器人的可信度、智能、好感度和安全性评级，但提供解释的机器人被认为更有生命力和人性化。这项研究表明，机器人决策解释具有提高人机交互及其各种效果的潜力，需要进行进一步评估。

Apr, 2022

为什么不两者兼顾？在人工智能协作中，通过不确定性来补充解释和自信心的作用

本研究进行实证研究，以确定不确定性估计和模型解释对用户对模型的信任和理解的影响，探讨如何将自信度纳入分析结果以提高决策求同的准确性。

Apr, 2023