Oct, 2023

驾驶穿越概念僵局：解开解释能力瓶颈

PDF
TL;DR利用概念瓶颈模型为控制命令预测和用户与车辆行为的解释提出了一种新方法，通过学习人类可理解的概念层，来解释顺序驾驶场景并学习车辆控制命令。
concept bottleneck modelsexplainable machine learninghuman-assisted drivingautonomous drivingvehicle behavior
发现论文，激发创造
  • 图像分类中瓶颈概念的学习

    该论文介绍了一种基于自监督学习和定制的正则化器来实现图像分类任务中深度神经网络解释性的 Bottleneck Concept Learner 方法。

    Apr, 2023

  • 概念瓶颈模型是否学习预期所得？

    研究发现概念瓶颈模型很难满足解释性、可预测性和干预性三个目标，使用事后可解释性方法证明概念与输入空间中任何语义上有意义的东西都不对应，因此质疑概念瓶颈模型在目前形式下的实用性。

    May, 2021

  • 概念嵌入模型：超越准确性和可解释性的平衡

    该研究提出了一种新的概念限制模型 —— 概念嵌入模型，学习解释性高维概念表示，支持人类干预和提高模型性能，这是一个在真实世界条件下优化准确性、鲁棒性和解释能力之间权衡的方案。

    Sep, 2022

  • 通过概念瓶颈模型实现强大且可解释的医学图像分类器

    通过使用自然语言概念，我们提出了一种建立强大而可解释的医学图像分类器的新范式，有效地解决了深度学习模型在医疗行业应用中学习虚假相关性而不是期望特征以及缺乏可解释性的问题。

    Oct, 2023

  • 通过可视化因果关注实现自动驾驶车辆的可解释性学习

    本研究探讨了可解释的自动驾驶车辆中使用视觉解释的方法，使乘客、保险公司、执法机构和开发人员能够理解神经网络控制模型的行为，该模型采用了视觉关注模型进行训练，并应用因果过滤步骤来确定哪些输入区域实际上影响了输出。该方法在三个数据集上进行了有效性研究，证明了其在自动驾驶行为和人类驾驶行为中的应用价值。

    Mar, 2017

  • 走向清晰之路：探索可解释的人工智能在驾驶辅助系统中的世界模型

    在自动驾驶中，透明度和安全性至关重要，使用于自动驾驶系统中的神经网络通常被认为是黑盒。我们通过可解释的人工智能方法和粗粒化技术来解决这一问题，并提出了一种建立透明骨干模型的方法，使得潜在值能够映射到输入特征，并且性能可与黑盒模型相媲美。此外，我们还提出了分析预测网络内部动态和特征相关性的解释和评估技术，并通过分析一个预测行人感知的 VAE-LSTM 世界模型来展示我们的方法。

    Apr, 2024

  • 深度视觉自动驾驶系统的可解释性：综述与挑战

    这项调查综述了针对基于行为克隆训练的视觉自驾系统的可解释性方法。该综述从计算机视觉、深度学习、自动驾驶和可解释人工智能等多个研究领域收集贡献，并讨论了自驾车的解释性定义、动机、方法以及未来挑战。

    Jan, 2021

  • 瓶中之语：语言模型引导的概念瓶颈用于可解释的图像分类

    本研究提出了一种基于 GPT-3 语言模型的 LaBo 方法来构建 Concept Bottleneck Models，LaBo 可以有效地搜索与给定问题领域相关的候选瓶颈概念，通过将 GPT-3 的句式概念与图像对齐形成瓶颈层，最终实验结果显示，LaBo 提高了 11.7% 的准确性，证明了解释性模型的广泛应用前景。

    Nov, 2022

  • 使用反事实概念瓶颈模型攀登可解释性阶梯

    深度学习模型不足以同时解决预测类别标签以解决给定分类任务（'What?'），解释任务预测（'Why?'），以及想象可能导致不同预测的替代场景（'What if?'）的三个基本问题。为了填补这一差距，我们引入了 CF-CBMs（CounterFactual Concept Bottleneck Models），一类能够高效地同时解决上述问题而无需进行事后搜索的模型。我们的结果表明，CF-CBMs 能够产生准确的预测（'What?'），对任务预测提供简单的解释（'Why?'），以及可解释的反事实情况（'What if?'）。CF-CBMs 还能对概念干预对任务的影响进行采样或估计最可能的反事实，显示用户如何获得所需的类别标签，并提出基于任务的概念干预。

    Feb, 2024

  • 概念瓶颈模型是否遵循局部性？

    CBMs 在局部和相似度方面无法准确捕捉概念的条件独立性，这对于 CBMs 学习的概念表示的质量以及基于概念的解释的鲁棒性产生了质疑。

    Jan, 2024