Oct, 2022

可解释的深度跟踪

PDF
TL;DR通过交互式干预训练（IIT）方法，本研究设计了一个端到端优化的多目标跟踪结构和训练协议来解释神经网络在 3D 检测，多目标跟踪和运动预测方面的决策，从而提供解释与可解释性。
autonomous vehicleend-to-end optimizable deep neural networksmulti-object trackingmotion forecastinginterpretability
发现论文，激发创造
  • 可解释式目标导向车辆轨迹预测模型

    自动驾驶中，理解车辆与周围环境的社交互动行为并预测其轨迹的能力对道路安全至关重要。为了克服神经网络方法在车辆轨迹预测中缺乏可解释性的问题，本文结合离散选择模型的可解释性与神经网络模型的高准确性，提出了一种能解释其预测结果而不降低准确度的模型，并通过使用 INTERACTION 数据集进行实现和评估，证明了该模型的有效性。

    Aug, 2023

  • 通过可视化因果关注实现自动驾驶车辆的可解释性学习

    本研究探讨了可解释的自动驾驶车辆中使用视觉解释的方法，使乘客、保险公司、执法机构和开发人员能够理解神经网络控制模型的行为，该模型采用了视觉关注模型进行训练，并应用因果过滤步骤来确定哪些输入区域实际上影响了输出。该方法在三个数据集上进行了有效性研究，证明了其在自动驾驶行为和人类驾驶行为中的应用价值。

    Mar, 2017

  • 目标检测更好的解释方法

    本文提出了一种名为 D-CLOSE 的方法，用于解释任何目标检测模型的决策，并利用图像上的多层分割和结合过程来跟踪模型的行为。在 MS-COCO 数据集中使用 YOLOX 模型进行测试，表明我们的方法优于 D-RISE，可以提供更好的质量和更少的噪音解释。

    Jun, 2023

  • 引导可解释神经网络的因果结构

    通过交替干预训练的方法，将神经模型与因果模型进行对齐并将其纳入训练，实现在保留数据驱动学习能力的同时较好地表达因果结构，并在结构视觉、语言导航和自然语言推理任务上通过与多任务训练目标和数据增强的对比达到较好的效果，制备了较好的解释性神经模型。

    Dec, 2021

  • 通过学习端到端的视觉关注来解释自动驾驶

    通过使用注意力模型来提高 CARLA 驾驶模拟器的性能，同时通过模仿学习训练代理人来解释自动驾驶中深度学习无法解释的决策问题。

    Jun, 2020

  • 基于视觉光流蒸馏的自动驾驶端到端可解释运动规划学习

    该研究提出了一种基于端到端视觉的自主驾驶轨迹规划方法，使用生成的鸟瞰图中的未来语义地图进行路径规划，增强了自动驾驶的安全性和解释性。

    Apr, 2021

  • 迈向透明 AI：深度神经网络内部结构解释综述

    本文回顾了超过 300 种内部可解释性技术，并引入了一种分类方法，介绍了它们对神经网络的什么部分（权重、神经元、子网络或潜在表示）进行解释，以及它们是在训练期间（内在）还是在训练后（事后）实现的。这篇文章强调了诊断、调试、敌对性和基准测试在未来研究中的重要性，以便使可解释性工具在实际应用中更有用。

    Jul, 2022

  • 走向完全可解释的深度神经网络：我们已经到达了吗？

    本文提供了一个现有方法的回顾，以开发具有内在可解释性的 DNN，重点关注卷积神经网络 (CNNs)，旨在了解向完全可解释 DNN 的当前进展，并确定当前工作中的差距和潜在研究方向。

    Jun, 2021

  • 利用语义信息提高深度神经网络的可解释性

    本文提出了一种新颖的技术，通过利用人类描述中蕴含的丰富语义信息来提高深度神经网络的可解释性，特别是在视频字幕任务中，通过一个可解释损失将人类描述中的一组语义相关主题集成到模型中，并提出了一种预测差异最大化算法来解释每个神经元的学习特征。实验结果表明这种方法在视频字幕和视频动作识别方面非常有效。

    Mar, 2017

  • 深度物体中心策略用于自动驾驶

    本研究采用对象为中心的方法，既能利用对象实例，又可以最大限度地适应新场景，提供了直观的可视化结果，在自主驾驶等机器人任务中，相较于传统方法，更具鲁棒性和性能表现。

    Nov, 2018