May, 2023

解释任何概念：基于概念的说明和分割

PDF
TL;DR本研究探索使用具備精確及全面物件分割能力的 Segment Anything Model (SAM) 來增強基於概念的可解釋人工智慧 (Explainable AI, XAI) 方法。我們提出了一種稱為 Explain Any Concept (EAC) 的概念解釋方法，可以有效靈活地解釋深度神經網絡 (DNN) 的決策。我們的評估結果表明，EAC 方法在 ImageNet 和 COCO 兩個常用的數據集上的表現非常鼓舞人心，優於常用的 XAI 方法。
发现论文，激发创造
  • 通过向可训练的代理模型引入非线性改进解释任意概念

    在可解释人工智能（XAI）领域中，解释深度神经网络（DNN）在计算机视觉任务中的决策是一个重要过程。本文通过在原代理模型中引入附加的非线性层，提出了一种改进的 EAC 模型，以提高其性能。在 ImageNet 和 MS COCO 数据集中，与原 EAC 模型相比，所提出的方法表现出明显改善。

    May, 2024

  • 医学、工业及其他领域图像分割中的可解释人工智能（XAI）：一项调研

    这篇论文针对 XAI 在语义图像分割中的应用，提出了第一份全面的综述。文章对应用类别、领域、评估指标和数据集进行了分析和分类，并提出了可解释的语义分割的分类体系，讨论了潜在的挑战和未来研究方向。

    May, 2024

  • 扩展基于 CAM 的遥感图像分割的可解释人工智能方法

    通过适应最近的 XAI 分类算法并将它们用于多类别图像分割，本文着重于对高分辨率卫星图像中的建筑物分割的研究，引入了一种基于 “熵” 来衡量模型不确定性的新的 XAI 评估方法和指标，以此来提供透明度和可解释性，为图像分割领域的 XAI 研究和遥感应用铺平道路。

    Oct, 2023

  • AS-XAI: 卷积神经网络的自我监督自动语义解释

    提出自我监督的自动语义可解释人工智能框架 (AS-XAI)，利用透明正交嵌入语义提取空间和行居中主成分分析 (PCA) 来全局语义解释模型决策，在没有人为干预的情况下产生了人可理解的解释。

    Dec, 2023

  • 基于概念的模型改进方法综述

    最近的研究关注点已经从简单地提高深度神经网络（DNNs）在各种任务中的性能转向了更具人可解释性的 DNNs。人工智能解释性领域已经观察到了包括基于显著性和基于概念的技术。概念是人类可理解的数据单元，是人类思考的基础。本文系统地回顾和分类了 DNNs 中各种概念表示及其发现算法，特别是在视觉领域。同时也提供了关于基于概念的模型改进文献的详细信息，这是第一个调查基于概念的模型改进方法的研究。

    Mar, 2024

  • 视觉及其它领域分割模型综述

    该研究综述了近年来提出的一种称为 SAM 的基础模型，对其的应用于图像处理的各种任务和数据类型进行了分析和总结，并指出了其优点和局限性，为开发更多功能的基础模型和改善 SAM 架构提供了启示。

    May, 2023

  • 基于概念的可解释人工智能综述

    通过对 C-XAI 方法进行 thorough review，本文提供了分类体系、选择指南和常见评估策略，旨在促进可解释人工智能领域的发展。

    Dec, 2023

  • 基于 XAI 增强的语义分割模型用于视觉质量检测

    通过使用基于 CAM 的解释来完善语义分割模型，本研究提出了提升视觉质量检测系统的框架。该框架包括模型训练、基于 XAI 的模型解释、XAI 评估和注释增强等步骤，通过解释和专家洞见进行指导。评估结果表明，基于 XAI 的模型在复杂目标分割方面优于原始的 DeepLabv3-ResNet101 模型。

    Jan, 2024

  • AI-SAM: 自动交互式分段模型

    我们介绍了一种新颖的范式及其第一个模型：自动与交互式分割模型（AI-SAM）。在这个范式中，我们对提示品质进行了全面分析，并引入了创新的自动与交互式提示器（AI-Prompter），它在自动生成初始点提示的同时接受额外的用户输入。我们的实验结果证明了 AI-SAM 在自动设置下的有效性，实现了最先进的性能。更重要的是，它提供了灵活性以整合额外的用户提示，从而进一步提升性能。项目页面可在链接提供的 URL 中找到。

    Dec, 2023

  • 将 “Promoting Segment Anything Model towards Highly Accurate Dichotomous Image Segmentation” 翻译为专业简体中文

    通过输入「Segment Anything Model」（SAM）的简单提示框，并将 SAM 的结果输出作为 IS5Net 的输入，可以极大地提高高精度的二元图像分割的效果。

    Dec, 2023