NLP 中非线性分类器预测解释
本文提出了将 Layer-wise Relevance Propagation 扩展到递归神经网络的方法,并应用于五分类情感预测任务中的双向 LSTM 模型,其结果 qualitatively and quantitatively 均优于之前工作中使用的基于梯度的方法。
Jun, 2017
本文研究探讨了解释型人工智能(XAI)中的一种常用方法 —— 层级相关性传递(LRP),发现新的应用方式能够更好地表征模型的推理,同时提高 LRP 的对象定位和类别区分性。
Oct, 2019
本章节探究如何使 Layer-wise Relevance Propagation (LRP) 技术适用于序列数据建模和预测所使用的 LSTM 架构,需要更新传播方案并扩展基础理论框架以提供准确的解释。
Sep, 2019
本研究探讨了 DeConvNets、vanilla Gradient Visualization 和 Guided Backpropagation 等基于反向传播的方法,提出了一种基于 Layer-wise Relevance Propagation (LRP) 方法的 Contrastive Layer-wise Relevance Propagation (CLRP) 方法,能够产生实例特定、类别区分、像素级的解释,并定量地进行评估,证明 CLRP 比 LRP 生成更好的解释。
Dec, 2018
本文介绍了如何使用机器学习模型解释文本分类的决策过程以及如何生成基于词向量的文档表示方法。通过对两个不同类型的模型进行比较,表明卷积神经网络在可解释性方面的优势,也使得它更具有人类可理解性,并有潜力应用于其他领域。
Dec, 2016
通过介绍层次相关传播方法,我们提出了一种新颖的深度可解释专利分类框架,用于提供人类可理解的预测解释。实验结果表明,对于各种评估指标,生成的解释突出了与预测类别相一致的重要相关词汇,使预测结果更易理解,并有助于推广复杂的 AI 专利分类方法在实际应用中的采用。
Oct, 2023
本文提出了一种基于 Convolutional Neural Networks 的特征评估方法用于比较 LRP 与 saliency map 两种模型解释方法的效果,依据实验研究结果,我们采用嵌入式特征的删减而非删减权重高的单词,并在文本分类的应用领域提供了一种可视化工具来辅助分析人员理解模型的结果。
Nov, 2018
本文旨在探究如何使用 layer-wise relevance propagation 技术在音频领域内进行深度神经网络的解释性分析,并使用一个英语语音数字数据集对于语音数字和演讲者性别进行分类任务,通过对 LRP 得到的相关性分数进行假设和输入数据的系统操作,确认了在音频数据处理过程中的深度神经网络对相关特征的高度依赖性。
Jul, 2018
该研究介绍了一种名为层次反馈传播 (LFP) 的新型训练方法,利用可解释性、具体而言是层次相关传播 (LRP),为神经网络预测器中的个别连接分配奖励,以其对解决给定任务的贡献为基础。与传统的梯度下降方法不同,LFP 在不需要梯度计算的情况下在模型中传播奖励信号。它增强了接收到积极反馈的结构,同时减少了接收到负反馈的结构的影响。理论上和经验证实了 LFP 的收敛性,并展示了在各种模型和数据集上与梯度下降方法相当的性能。值得注意的是,LFP 可以克服与基于梯度的方法相关的某些局限性,例如依赖有意义的导数。此外,我们还研究了如何将不同的 LRP 规则扩展到 LFP 中,它们对训练的影响以及潜在的应用,例如训练没有有意义的导数的模型,例如阶跃函数激活的脉冲神经网络 (SNN),或用于转移学习,以高效利用现有知识。
Aug, 2023
本研究探讨利用 DNNs 和 LRP 应用于 EEG 数据分析,发现 DNNs 在分类准确性上具有可比性,并且通过 LRP 的热图,可以提供神经活动高分辨率的评估,这是 DNN 在神经科学应用中被限制使用的可解释性不足的潜在解决方案。
Apr, 2016