自编码器的分层相关传递解锁

Mar, 2023

Unlocking Layer-wise Relevance Propagation for Autoencoders

Kenyu Kobayashi, Renata Khasanova, Arno Schneuwly, Felix Schmidt, Matteo Casserini

TL;DR我们提出了一个快速的可解释性解决方案，通过深度泰勒分解框架扩展层级相关传播方法，引入了一种新的验证技术，与基线方法进行比较，在缺少基础真实数据的情况下突出了所提出的可解释性解决方案的计算和质量方面的优势。

Abstract

autoencoders are a powerful and versatile tool often used for various problems such as anomaly detection, image processing and machine translation. However, their reconstructions are not always trivial to explain. Therefore, we propose a fast →

autoencoders layer-wise relevance propagation deep taylor decomposition validation technique explainability

发现论文，激发创造

层级相关性传播用于可解释的推荐

本文探讨使用深度学习的模型进行推荐解释的问题，我们使用深度卷积神经网络从输入图像中提取相关特征，并在特征空间中识别图像之间的相似性，最后使用 Amazon 产品数据集验证了我们方法的有效性。

Jul, 2018

使用修剪的逐层相关传播稀疏解释神经网络

我们提出了一种修改后的解释方法，通过修剪不同层的相关传播来降低噪音，同时集中关注最重要的特征，从而提高深度神经网络输出的解释性。

Apr, 2024

利用逐层自编码器进行敌对样本检测与分析

本研究提出了一种基于目标网络隐藏层数据表示的机制来检测对抗性样本，该机制训练了目标网络中间层的单独的自编码器，可以描述真实数据的流形，从而判断一个给定的例子是否具有与真实数据相同的特征，并探究对抗性样本在深度神经网络层中的行为。实验结果表明，我们的方法在监督和无监督环境中表现优于现有技术水平。

Jun, 2020

深度生成模型分层学习

本文提出了一种基于乐观的概率方法进行逐层训练 DeepAutoEncoder 的过程，可以提高深度架构训练的性能，实验结果表明使用比生成模型更丰富的推理模型可以有效地提高性能。

Dec, 2012

从神经 PCA 到深度无监督学习

提出了一种支持深度无监督学习的网络，使用编码器到解码器的侧向快捷连接来支持层次结构，并通过去噪自编码器和去噪源分离框架进行学习，以学习不变特征。

Nov, 2014

针对具有本地重正化层神经网络的逐层相关性传播

本文提出了一种扩展分层关联传播到具有局部重新规范化层的神经网络的方法，并在 CIFAR-10、Imagenet 和 MIT Places 数据集上评估了该方法的性能。

Apr, 2016

AttnLRP：面向 Transformer 的注意力感知分层相关传播

扩展対面层级相关传递方法以处理注意力层可以实现对大型语言模型进行准确且高效的非黑盒推理解释。

Feb, 2024

利用 SHAP 解释 Autoencoder 检测到的异常值

本研究基于博弈理论提出了一种新的方法（SHAP），扩展了已有的方法，用于解释基于无监督模型的异常检测，提取和可视化有效的异常特征，帮助领域专家理解异常并挑选出有用的异常，以最小化错误率。

Mar, 2019

超越注意力可视化的 Transformer 可解释性

本研究提出了一种基于 Deep Taylor Decomposition 原则的计算 Transformer 网络相关性的方法，通过注意力层和跳跃连接进行传播，并通过基于图像分类和文本分类问题的测试表明其在解释性方面优于现有方法。

Dec, 2020

ALIME: 基于自编码器的局部可解释性方法

本文提出了一种改进的可解释深度学习模型的方法，通过使用自动编码器来加权，从而提高了 LIME 的稳定性和本地保真度。

Sep, 2019