Mar, 2024

基于点云网络的快速简单可解释性

PDF
TL;DR我们提出了一种快速简单的解释型 AI (XAI) 方法，用于点云数据。通过计算针对训练网络的点级重要性，可以更好地理解网络属性，这对于安全关键应用至关重要。除了调试和可视化外，我们的低计算复杂性还有助于在线反馈网络推断。这可以用于减少不确定性并增强鲁棒性。我们的方法在分类解释性方面取得了 SOTA 结果，同时还展示了所提措施如何有助于分析和表征 3D 学习的各个方面，例如旋转不变性、对分布外离群值或领域转移和数据集偏差的鲁棒性。
explainable aipoint cloud datafeature based interpretabilitygradients3d learning
发现论文，激发创造
  • 基于梯度的方法解释 3D 点云特征

    本文主要研究神经网络在 3D 数据中的可解释性和稀疏性，提出了一种基于边缘和角点的视觉显著性方法并成功地在 Voxception-ResNet（一种基于体素的分类网络）上实现了参数精简.

    Jun, 2020

  • 利用可解释的人工智能来提高神经网络的性能

    本研究提出了一种重新训练流程，使用 SHapley Additive explanations 值，从 XAI 入手并利用最先进的技术来增加模型的透明度和可信度，在人数统计场景和图像分类数据集上进行了实验验证，结果表明使用 SHAP-based 重新训练方法比使用相等加权训练方法更有效，分别提高了 4% 和 3% 的准确率。

    Oct, 2022

  • 基于梯度反向传播的特征归因，实现边缘智能可解释性

    本研究为了实现边缘设备上的实时可解释人工智能（XAI），利用可配置的 FPGA 设计和优化算法提高多种特征归因算法的灵活性和性能，并演示了通过分配硬件资源的有效重复使用的路径，以最小化部分准确性损失。

    Oct, 2022

  • XAI-TRIS: 量化机器学习解释能力的非线性基准测试

    本文探讨不同非线性分类场景下，解释性人工智能模型的表现，并通过一系列实验测试发现，当前流行的 XAI 方法往往无法显著提高准确性基线和边缘检测方法，甚至在不同模型结构下产生非常不同的解释，存在误解的风险。

    Jun, 2023

  • 从聚类到聚类解释的神经网络方法

    提出基于神经网络和聚类模型的可解释 AI 框架，能够对数据的簇分配进行高效和可靠的解释，并且从分析数据和表示中提取新的见解。

    Jun, 2019

  • 解决谜题：推导深度网络的最优解释

    通过整合不同的解释方法并利用非线性的 “解释优化器”，我们提出了一种新颖的框架，旨在增强深度神经网络的可解释性，并通过实验证实了其有效性。

    May, 2024

  • 探讨可解释人工智能方法对地球科学中卷积神经网络应用的保真度

    本文通过对最流行的 XAI 方法的比较和探究它们在地球科学应用中的准确性，强调了 XAI 方法在 CNN 决策方法解释方面的重要性和局限性，并通过应用于气候相关预测来说明，帮助深层学习方法更好地用于预测问题

    Feb, 2022

  • 可视化贝叶斯神经网络所学表示的多样性

    本文研究了可解释人工智能（XAI）方法在探索和可视化贝叶斯神经网络（BNNs）学习到的各种特征表示方面的应用，通过特征可视化及对比度学习的距离度量，提供 BNNs 决策策略的可见性、可量化性和全面性，结果显示 Monte Carlo dropout 表现出比 MultiSWAG 更大的表示特征多样性，这与最近的深度神经网络理论一致。

    Jan, 2022

  • 视觉解释的可解释人工智能基准

    深度学习算法的崛起在计算机视觉任务中取得了重大进展，但它们的 “黑匣子” 性质引发了对可解释性的关注。可解释人工智能（XAI）作为一个重要的研究领域出现，旨在打开这个 “黑匣子”，并揭示人工智能模型的决策过程。视觉解释作为可解释人工智能的一个子集，通过突出显示输入图像中的重要区域，为处理视觉数据的人工智能模型的决策过程提供直观的见解。我们提出了一个 XAI 基准，其中包括来自不同主题的数据集集合，为图像提供了类别标签和相应的解释注释。我们引入了一个全面的视觉解释流程，在这个流程中整合了数据加载、预处理、实验设置和模型评估过程。此结构使研究人员能够公平比较各种视觉解释技术。此外，我们对视觉解释的超过 10 种评估方法进行综合评述，以帮助研究人员有效利用我们的数据集合。为了进一步评估现有的视觉解释方法的性能，我们使用各种以模型为中心和以真实标注为中心的评估指标在选定的数据集上进行实验。我们希望这个基准可以推动视觉解释模型的进步。这个 XAI 数据集合和用于评估的易于使用的代码公开可访问。

    Oct, 2023

  • 我们需要另一种可解释的 AI 方法吗？将事后可解释性评估方法统一为一种交互式和多维基准

    提出了一种名为 Compare-xAI 的基准测试框架，该框架统一了 xAI 算法的所有排他性功能测试方法，帮助研究人员、从业人员和普通人解释模型结果，同时提供了可互动的用户界面。

    Jun, 2022