深度学习通过原型进行基于案例的推理：一种解释其预测的神经网络

AAAIOct, 2017

Deep Learning for Case-Based Reasoning through Prototypes: A Neural Network that Explains Its Predictions

Oscar Li, Hao Liu, Chaofan Chen, Cynthia Rudin

TL;DR本文中，我们提出一种新的深度学习网络架构，其中包含自编码器和原型层，这种网络可以自然地解释每个预测的原因，并且能够进行分类。

Abstract

deep neural networks are widely used for classification. These deep models often suffer from a lack of interpretability -- they are partic

发现论文，激发创造

介绍了 ProtoPNet，一种深度神经网络架构，该模型通过识别图像的原型部分并将原型部分的证据结合起来，类似于鸟类学家、医生和其他人解决图像分类任务的方式，提供了一定程度的可解释性，并在 CUB-200-2011 数据集和 Stanford Cars 数据集上实现了可比较的准确性。

Jun, 2018

利用原型学习方法和自然语言处理，我们提出了一种学习加权相似度度量的方法，增强了相似度计算，并提出了一个可提取预测相关单词的解释机制来改进预测性能和解释质量。

Oct, 2023

通过构建深度神经网络中的因果模型并使用自动编码器提取关键概念作为变量，我们开发了一种解释神经网络输出预测的方法，并使用该因果模型识别和可视化对最终分类具有显着因果影响的特征。

Feb, 2018

提出了 ProSeNet，该方法利用几个基准示例作为原型，从案例推理中获取自然解释，可以提供高准确度和可解释性，可用于各种应用领域中的序列建模和预测诊断。

Jul, 2019

本文提出了一个基于概念的后续解释 AI 框架，通过原型模型不仅传达了每个实例的决策策略 (局部)，而且还传达了整体的类别决策策略 (全局)，从而降低了对人类长期评估的依赖，并使模型验证成为一个直观且可解释的工具。

Nov, 2023

本文介绍了使用深度学习模型中的潜在空间数据来学习代表性的原型用于决策过程的阐释，重点关注对二维时间序列数据的分类，如检测临床心动过缓、早产儿呼吸暂停和语音识别，并通过优化原型多样性和稳健性，提高了已有模型的性能。

Apr, 2019

ProtoTEx 是一种基于原型网络的新型白盒 NLP 分类体系结构，其通过原型张量解释模型决策，可在处理没有代表性特征的类别时有效地处理，可精准检测网络新闻中的宣传，并通过原型解释帮助非专业人士更好地识别宣传。

Apr, 2022

提出了一种神经符号架构，使用在线规则学习算法解释黑盒模型预测故障的方法，并使用无监督的自编码器实现异常检测。

Apr, 2024

本研究提出了一种框架，可以学习原型图，从而同时提供准确的预测和基于原型的解释，用于自我解释的图神经网络，实验结果表明其在真实和人工数据集上都具有良好的预测和解释质量。

Oct, 2022

本文提出了一种名为 xDNN 的新型深度学习架构，该架构使用原型来优化计算效率，达到超越传统方法的目的，并在基准数据集上进行了测试，取得了世界记录。

Dec, 2019