Jan, 2022

SLISEMAP: 通过本地解释进行监督降维

PDF
TL;DR本文提出了一种新的监督流形可视化方法 SLISEMAP，通过在所有数据项中同时寻找本地解释并建立二维全局可视化黑盒子模型的方法，可以得到全局解释。相似的本地解释投影在附近。 SLISEMAP 可以利用有标签数据创建具有一致本地白盒模型的嵌入，从而更好地解释和理解黑盒回归和分类模型。
black box modelsexplanation methodssupervised manifold visualisationslisemapdimensionality reduction
发现论文，激发创造
  • 利用 Slisemap 解释物理数据

    使用 Slisemap 方法对物理和化学数据集进行流形可视化，并结合可解释人工智能探索黑盒机器学习模型和复杂模拟器的决策过程，从而获得具有相似局部解释的数据项聚集的嵌入式视图，提供黑盒模型不同行为的总体概览，使 Slisemap 成为一种有监督的流形可视化方法，嵌入式模式反映目标属性，并展示了如何在物理数据上使用和评估 Slisemap，以及 Slisemap 在这些数据集上训练的分类和回归模型中发现有意义的信息。

    Oct, 2023

  • 归纳全局与局部流形逼近与投影

    GLoMAP 及其归纳版本 iGLoMAP 是一种新颖的流形学习方法，用于非线性降维和高维数据可视化，能有效地保留局部和全局的距离估计，并通过优化过程逐步展示从全局到局部形成的进展。iGLoMAP 通过深度神经网络使得在未见过的数据点上能够提供低维嵌入而无需重新训练算法，并适用于小批量学习，以加快梯度计算速度。经过与当前最先进的方法进行竞争性实验，在模拟数据和真实数据环境下成功应用了 GLoMAP 和 iGLoMAP。

    Jun, 2024

  • 模型无关的监督式本地解释

    MAPLE 是一种新颖的模型解释系统，使用局部线性建模技术和随机森林的双重解释，提供黑盒解释，并兼具高精度的预测模型和优越的局部解释能力。

    Jul, 2018

  • 机器学习模型的本地可解释模型无关 Shap 解释

    提出了一种称为 LIMASE 的局部可解释模型无关 Shap 说明法，该方法使用 Shapley 值来解释任何模型的预测，提供局部和全局可解释的解释，解决子模块优化问题，为地区解释带来见解，并在与内核解释器相比计算更快。

    Oct, 2022

  • 利用三元组实现更加全局准确的降维方法

    我们展示了经常使用的降维方法，如 t-SNE 和 LargeVis，不能很好地捕捉低维度嵌入中数据的全局结构，并提出了一种名为 TriMap 的新方法，使用三元组信息来捕获更高级别的结构，通过实验证明 TriMap DR 结果具有明显的优势。

    Mar, 2018

  • 用 SMILE 解释黑盒子：局部解释的统计模型无关可解释性

    机器学习的可信度与解释性是当前发展的重点，提升可信度的关键在于解释性，我们提出了 SMILE 方法，利用统计距离度量来提高解释性，并适用于各种数据领域。

    Nov, 2023

  • 黑匣子 NLP 模型的解释：一项调查

    本文提出了一种基于中心极限定理的假设检验框架以确定所需扰动点的数量，从而保障解释稳定性的方法 S-LIME，以解决黑箱模型的可解释性问题。对模拟数据集和实际数据集进行的实验表明了该方法的有效性。

    Mar, 2022

  • CBMAP：基于聚类的流形逼近和投影用于降维

    介绍了一种基于聚类的降维方法 CBMAP，旨在同时保留全局和局部结构，提供速度、可扩展性和对超参数依赖较小的解决方案，满足机器学习应用中对测试数据的低维投影的需求。

    Apr, 2024

  • GraphLIME: 图神经网络的本地可解释模型解释

    本文提出了 GraphLIME，一种用于解释图结构数据的本地可解释模型说明框架，具有高度的解释度和描述性，采用非线性特征选择方法，通过对节点的 N - 跳邻居建立非线性可解释模型，计算 K 个最具代表性特征作为其预测解释。

    Jan, 2020

  • 理解降维工具的工作原理：一种实证方法用于解析 t-SNE、UMAP、TriMAP 和 PaCMAP 进行数据可视化

    本文旨在深入探讨降维方法中保留局部和全局结构的重要性，针对保留局部结构提出了一些新的设计原则，并发掘出保留哪些部分对于保持全局结构的重要性，在此基础上提出一种新的降维算法 PaCMAP，该算法同时保留了局部和全局结构，并为构建降维算法时提供了一些出乎意料的设计选择报告。

    Dec, 2020