利用实例语料库解释潜在表示

Oct, 2021

Explaining Latent Representations with a Corpus of Examples

Jonathan Crabbé, Zhaozhi Qian, Fergus Imrie, Mihaela van der Schaar

TL;DR该研究提出了 SimplEx 方法，以提高人们对机器学习模型的透明度。该方法可以根据用户选择的一组自由样本来提供基于示例的解释，从而回答与预测相关的问题，并重构测试潜在表示作为语料库潜在表示的混合。

Abstract

Modern machine learning models are complicated. Most of them rely on convoluted latent representations of their input to issue a prediction. To achieve greater transparency than a black-box that connects inputs to predictions, it is necessary to gain a deeper understanding of these lat

machine learning latent space post-hoc explanations simplex corpus

发现论文，激发创造

LIPEx -- 局部可解释性概率解释 -- 超越真实类别

本研究介绍了一种新型的基于扰动的多类别解释框架 LIPEx（局部可解释的概率解释），证明 LIPEx 不仅可以局部复制广泛使用的复杂分类模型输出的概率分布，而且还可以提供关于每个被认为重要的特征如何影响每个可能类别的预测概率的见解。研究通过根据概率分布空间中的 Hellinger 距离执行的回归获得解释的矩阵。对文本和图像数据进行的消融测试表明，与其他基于显著性或特征重要性的 XAI 方法相比，LIPEx 指导下从数据中移除重要特征会对底层模型的预测产生更大的变化。研究还表明，与 LIME 相比，LIPEx 在可靠评估解释所需的扰动数量上具有更高的数据效率。

Oct, 2023

用对比语料库归属解释表示

提出了一种基于对比语料相似性的无监督模型解释方法，能够产生更具有语义意义的标量解释输出，应用于图像数据增强与零样本物体定位领域。

Sep, 2022

学习的视觉特征到文本解释

利用大型语言模型解释视觉模型的学习特征，通过训练神经网络建立图像分类器和语言模型之间的连接，生成大量的句子来解释分类器学习到的特征，并提取最频繁的词语，增强图像分类器的解释性和鲁棒性。

Sep, 2023

锚定相关性解释：最小领域知识主题建模

本文介绍了一种名为 CorEx 的主题建模方法，这种方法不需要假设潜在的生成模型，而是通过信息理论框架学习最大信息的主题。该框架可以自然地推广到具有层次结构和半监督扩展的情况，通过锚词，可以灵活地将单词级的领域知识纳入 CorEx，从而最小限度地促进主题的可分离性和表征。通过多种数据集、指标和实验，我们证明了 CorEx 产生的主题与无监督和半监督变体的 LDA 所产生的主题在质量上是可比较的。

Nov, 2016

基于双特征和示例的解释方法

提出了一种基于选择围绕受解释实例的有限数据点构建的凸包的本地和全局解释新方法。该方法通过考虑由产生的多面体的极端点的凸组合形式的实例的双重表示来获得解释的特征重要性值。该方法被视为著名模型 LIME 的修改版本，具有例子为基础的解释方法实现的工具也被考虑。通过对真实数据集进行的许多数值实验来研究该方法，其中也提供了所提算法的代码。

Jan, 2024

EDUCE: 通过无监督概念提取解释模型决策

本文提出一种新的自我解释模型，通过低维度二进制表示预测结果并提供输入概念存在的解释，自动定义相关概念，实现易解释性，实验结果表明模型在文本分类和情感分析任务中具有较好的表现。

May, 2019

利用潜在特征进行本地解释

本研究探讨了一种利用潜在特征产生对照解释的新方向，通过添加新特征改变分类结果的方法进行预测的解释，证明了该方法在样本丰富的数据集上产生的直观解释优于其他方法，并可作为目前最先进的解释性方法的补充。

May, 2019

利用互补示例学习解释技巧

本研究提出了一种新框架来生成互补的解释，其中由三个不同的神经网络来参数化需要解释和被解释的变量的联合分布，即预测器，语言解释器和示例选择器，结果表明该方法是有效的。

Dec, 2018

通过锚定相关性解释实现可解释的主题发现

使用模糊和非正式的专家知识指导文本中解释性潜在主题的发现，结合了信息瓶颈和总相关性解释方法，对 Anchored CorEx 进行了初步评估，并在两个不同的语料库上产生了更连贯和可解释的主题。

Jun, 2016

在潜在特征空间中通过学习图像示例实现黑匣子解释

通过在黑盒模型中采用对抗性自动编码器学习到的潜在特征空间，生成实例图像并学习决策树分类器的方法，从而对黑盒模型进行解释，并提供了更好的解释性能。

Jan, 2020