基于自然图像统计的采样改进了本地代理解释器

Aug, 2022

基于自然图像统计的采样改进了本地代理解释器

Sampling Based On Natural Image Statistics Improves Local Surrogate Explainers

Ricardo Kleinlein, Alexander Hepburn, Raúl Santos-Rodríguez, Fernando Fernández-Martínez

TL;DR本文提出了对生成解释性数据的 surrogate explainers 的限制进行修正的方法，基于深度神经网络中的解释性模型，通过使用感知度量并将采样的局部邻域与原始培训数据分布对齐，训练一个局部可解释的模型，以了解模型是如何得出特定预测结果的。

Abstract

Many problems in computer vision have recently been tackled using models whose predictions cannot be easily interpreted, most commonly deep neural networks. surrogate explainers are a popular post-hoc interpretab

computer vision interpretable models surrogate explainers deep neural networks training data distribution

发现论文，激发创造

超越 LIME 的替代预测解释

本文提出一种算法框架 bLIMEy，用于构建定制的本地替代解释器，其中包括 LIME，该框架独立且可互操作，并讨论了组件选择对结果解释器功能能力的影响。

Oct, 2019

后解释性中代理器的可识别性定义

本研究针对黑盒分类器的应用，提出了一种基于本地替代模型的解释生成方法，强调了定义正确的邻域对于准确逼近本地黑盒决策边界的重要性。该方法通过在决策边界上的特定区域进行采样，生成了一个新型的替换方法，并在四个 UCI 数据集上进行了评估，证实了其有效性。

Jun, 2018

保证解释的区域

我们提出了一种基于锚点的算法，用于确定那些可以保证局部解释正确性的区域，通过明确描述输入特征可信赖的区间来生成可解释的特征对齐框，保证局部代理模型的预测与预测模型相匹配；我们展示了相比现有基线方法，我们的算法能够找到更大的保证区域的解释，更好地涵盖数据流形，并展示了我们的方法如何识别具有较差保证区域的误导性局部解释。

Feb, 2024

利用分层抽样提升 LIME 图像解释

我们研究了一种分层抽样方法，用于减少 LIME Image 中典型 Monte Carlo 抽样生成的人工现象。通过在解释图像周围的合成邻域中对依赖变量进行欠采样，从而导致采样数据无法用线性回归器拟合，因此无法得到充分的解释。我们还强调了与 Shapley 理论的关系，该理论过去也提出了关于欠采样和样本相关性的相似观点。我们推导了所有所需的公式和调整因子，以得到无偏的分层抽样估计器。实验证明了所提方法的有效性。

Mar, 2024

基于局部不变学习的本地不变解释：实现稳定单向解释

提出了一种基于不变风险最小化 (IRM) 原则的模型无关局部解释方法，该方法能够稳定、直观地生成高保真度解释，该方法通过消除黑盒函数梯度在附近范围内突然变化的特征，实现了与实际邻居方法相当甚至更好的解释质量，同时没有必要花费过多时间来学习邻居结构。

Jan, 2022

智能抽样用于代理建模、超参数优化和数据分析

在采样技术的研究领域，我们提出智能采样的概念，既可以创建新算法，也可以修改其他领域的适当算法以满足采样需求，经过定量和定性比较发现，简单的算法可以轻松地满足超参数优化、数据分析等方面的采样需求，并且优于当前使用的更复杂的算法，从而更好地利用时间和计算资源。

Jun, 2023

建立可靠的神经网络解释：模型解释的局部平滑视角

本研究提出了一种基于光滑景观的预测且稳定的神经网络模型解释方法，通过批量学习噪声复制品并采用 L1 规范化方法对显著性地图进行训练，使模型学习得到局部光滑模型解释，有效地找出与预测结果相关的输入要素并且在对抗样本测试中表现优异。

Mar, 2021

借助真实样本的渐进邻域逼近解释文本分类器

针对文本分类器的局部模型无关解释，提出了一种渐进逼近方法，它通过两阶段插值使用反事实来完善待解释决策的领域，从而提高了邻域质量。通过试验，证明了该方法的有效性。

Feb, 2023

ALIME: 基于自编码器的局部可解释性方法

本文提出了一种改进的可解释深度学习模型的方法，通过使用自动编码器来加权，从而提高了 LIME 的稳定性和本地保真度。

Sep, 2019

可解释的深度泛化领域分类模型

AI 模型的可解释性通常会因降低准确性而受到质疑。我们开发了一种训练策略，不仅提高了目标分类方案的解释性，同时并未降低准确性，实现方式是对决策网络作出决策的可视证据进行区域定位，其表示方法为表征哪些像素对网络决策的贡献最大的显著性图。我们的训练策略通过使模型集中于直接对应于地面目标的图像区域的反馈，在自动和人工指标的量化中量化可解释性，并提出了可解释性作为弥合不同域之间视觉 - 语义差距的手段。我们证明，这种方法不仅提高到新领域的泛化性能，而且不会影响在原始领域上的性能。

Mar, 2020