Oct, 2022

透明且可控的网络学习：通过嵌入人类指导概念

PDF
TL;DR本文提出了一种透明可控网络学习（TCNL）的方法来优化卷积神经网络模型的透明度和可控性，通过引入概念信息和建立概念特征提取器以及概念映射器等步骤，具体地实现了 TCNL 方法，提高了 CNN 模型的可解释性和人为控制性。
transparency-interpretabilitycnn modelconcept feature extractorconcept informationcontrollability
发现论文，激发创造
  • 通过引导概念学习实现可理解的卷积神经网络

    该论文提出了一种带有附加概念层的 CNN 架构的引导学习方法，用于学习视觉特征和单词短语之间的关联，并通过优化预测准确性和特征表示的语义来学习与人类感知一致的概念，实验结果表明，所提出的模型可以在不牺牲准确性的情况下学习一致于人类感知的概念，并可将这些学习到的概念转移到具有相似概念的新对象类别中。

    Jan, 2021

  • SaTML '24 CNN 可解释性竞赛：概念层面解释的新创新

    SaTML 2024 CNN Interpretability Competition 的目标是帮助人类众包工作者在 ImageNet 规模上检测卷积神经网络中的特洛伊木马，该报告展示了四个特别竞赛参赛作品的方法和结果，虽然通过可解释性工具帮助人类可靠地诊断特洛伊木马仍具挑战性，但竞赛的参赛作品为该领域做出了新的贡献并在 Casper 等人于 2023 年的基准上刷新了记录。

    Apr, 2024

  • 通过模态之间达成共识的半监督分类

    将 Consensus Networks 扩展为 Transductive Consensus Networks 以进行半监督学习，通过将不同模态的输入压缩为潜在表征，并在迭代的对抗训练中鼓励它们不可区分，提高其分类性能。

    May, 2018

  • 少即是多：发现简明网络解释

    提出一种新的方法，通过生成人可理解的视觉解释来增强深度神经图像分类器的可解释性，并且该方法通过同时优化三个标准：解释应该少、多样化和可理解，以自动找出区分类别的关键视觉解释。

    May, 2024

  • 利用人类反馈学习可解释的基于概念的模型

    提出了一种透明的机器学习模型学习方法，使用用户的反馈来标记概念特征，从而生成透明的概念定义，以提高模型的可解释性和预测性能。

    Dec, 2020

  • 使用非负概念激活向量和决策树进行基于概念的卷积神经网络模型解释

    本文通过基于概念提取的解释器训练决策树，以增加 CNN 模型的可解释性并提高解释器的保真度和性能。研究表明，Tree-ICE 在可解释性方面胜过基准，并生成更易读的模式解释。

    Nov, 2022

  • 从 CNN 中提取可解释的基于概念的决策树

    该论文提出了一种从 CNN 隐藏层激活中推断标记的概念数据并通过浅层决策树解释这些概念的方法，这可以提供关于 CNN 模型认为重要的概念以及这些概念如何相互作用的信息，实验表明提取的决策树在树深度较低时能够准确地代表原始 CNN 的分类，从而有助于人们理解有区分力的概念。

    Jun, 2019

  • 可解释的网络可视化：基于人机协同的 CNN 图像分类后续解释方法

    通过引入一种后置方法，我们解释了卷积神经网络的整个特征提取过程，并包含了一组通过众包活动和自然语言处理技术提取并处理的文本标签，在多幅图像中聚合标签以生成全局解释。

    May, 2024

  • 理解多模态深度神经网络：概念选择视角

    通过两阶段的概念选择模型（CSM），本研究在观察到概念的长尾分布的基础上，提出了一种无需引入人为先验的核心概念挖掘方法，实验表明该方法在解释性和理解性方面可与黑盒模型相媲美。

    Apr, 2024

  • 可解释的基于时态卷积网络的 3D 人体动作分析

    本文提出了一种使用新型解释性模型 TCN 进行 3D 人体动作识别任务的方法 Res-TCN，并在最大的 3D 人体动作识别数据集 NTU-RGBD 上取得了最新的成果。

    Apr, 2017