Nov, 2022

EVNet：一种可解释的深度降维神经网络

PDF
TL;DR本论文提出了一种深度神经网络方法（称为 EVNet），用于实现可解释性和结构可保持的降维，该方法基于数据扩增和基于流形的损失函数，在维持准确度和完整性的同时提供解释性，同时整合了视觉界面，以帮助用户调整 EVNet 以实现更好的性能和解释能力。
dimension reductionparametric-freeparametricneural networkexplainability
发现论文，激发创造
  • 未来原位实时行星探索中实现深度学习的可解释性工具

    本文使用综合梯度来描述每个神经元对输出类的归因，并提供一套可解释性工具，使神经元对于分类的个人贡献可以排名和可视化。该技术将使神经网络更小、更高效并且更可测试，有助于实现在小型嵌入式系统中的实施，更易于验证和验证，并促进将深度学习应用于未来的原地行星探测任务。

    Jan, 2022

  • 事件神经网络

    该论文介绍了一种名为 EvNets 的新型事件神经网络，该网络利用视频数据的冗余性达到了可观的计算节省，它的每个神经元都有提供长期记忆的状态变量，使得即使相机移动较大，也能在低成本时实现高精度的推理，同时该论文在高和低水平的视觉处理领域，包括姿势识别，物体检测，光流和图像增强等领域上进行了广泛的实验，以验证该网络的有效性。

    Dec, 2021

  • DINE: 节点嵌入的维度可解释性

    通过开发解释节点嵌入维度的人类可理解的解释，我们提出了一种新方法，用于改进现有的节点嵌入模型的解释性，同时保持其在链接预测方面的有效性。

    Oct, 2023

  • 深度视觉解释简介

    研究了深度学习方法面临的可解释性困境，提出了一种叫做 “深度视觉解释” 的框架，通过可视化技术来识别和暴露深度学习模型性能行为的假设，以提高模型的可解释性和可调试性，并展示了初步的可解释性应用实验结果。

    Nov, 2017

  • DimVis：可解释的增强机构在降维中解释视觉聚类

    DimVis 是一个利用监督可解释的增强机器模型的可视化工具，通过交互式探索 UMAP 投影来提供高维数据分析的特征相关性解释，在转化复杂数据集为简单视觉表示时，增加了解释性，并解决了引入人为失真和解释性问题的困扰。

    Feb, 2024

  • 降维的本地解释

    介绍一种称为 LXDR 的技术，可以为 DR 技术的输出提供本地解释，以解决 DR 技术通常难以解释的问题，并通过实验结果和两个 LXDR 使用案例来评估其实用性。

    Apr, 2022

  • 可解释方法中的婴儿大脑注意力方式

    该文提出了一种名为 “可解释的几何深度网络” 的端到端学习方法，用于在高维数据中实现精细的可解释性，例如神经成像和神经科学研究。该方法采用学习解释性因素来增强鉴别性表示提取，以实现可解释的预测和分类结果。

    Jan, 2023

  • NeuroDAVIS：一种用于数据可视化的神经网络模型

    本文介绍了一种名为 NeuroDAVIS 的无监督深度神经网络模型，用于高维数据的降维和可视化，该模型在大量合成和真实高维数据集上表现出了竞争力，特别是在保留数据大小、形状和本地全局结构方面。

    Apr, 2023

  • 通过解释进行视觉说明：提高深度神经网络视觉反馈能力

    本文提出了一种基于内部特征及可视化的方法，能够自动识别预先训练模型中与给定类相关的特征，以进行深度模型的解释和阐释，并且提出了一种针对 deconvNet 可视化操作引入的伪像问题的方法，同时还提出了一个专门用于视觉解释方法客观定量评估的数据集 an8Flower。实验证明，该方法在 MNIST、ILSVRC12、Fashion144k 和 an8Flower 数据集上能够产生具有良好主题相关特征覆盖的详细解释。

    Dec, 2017

  • 利用信息流形投影进行聚类探索

    我们提出了一种新的方法，用于生成信息丰富的嵌入，该方法不仅消除了与不同类型先验知识相关的结构，还旨在揭示任何剩余的基本结构，通过采用两个目标的线性组合：首先是对先验信息相关结构进行折扣的对比主成分分析 (contrastive PCA)，其次是通过峰度投影追求 (kurtosis projection pursuit) 确保得到的嵌入中存在有意义的数据分离，并将此任务形式化为流形优化问题，并在考虑三种不同类型的先验知识的各种数据集上进行了经验验证，最后，我们提供了一个自动化框架，用于对高维数据进行迭代的视觉探索。

    Sep, 2023