Oct, 2023

解释性深度学习模型用于专利分类中的黑匣子揭示

PDF
TL;DR通过介绍层次相关传播方法，我们提出了一种新颖的深度可解释专利分类框架，用于提供人类可理解的预测解释。实验结果表明，对于各种评估指标，生成的解释突出了与预测类别相一致的重要相关词汇，使预测结果更易理解，并有助于推广复杂的 AI 专利分类方法在实际应用中的采用。
发现论文，激发创造
  • 通过逐层相关性传递解释复杂机器学习模型的预测

    本文介绍一种基于输入变量对深度神经网络分类决策进行分解的技术，以提高其透明度和可解释性。

    Nov, 2016

  • 利用 LRP 最佳实践解释神经网络决策

    本文研究探讨了解释型人工智能（XAI）中的一种常用方法 —— 层级相关性传递（LRP），发现新的应用方式能够更好地表征模型的推理，同时提高 LRP 的对象定位和类别区分性。

    Oct, 2019

  • NLP 中非线性分类器预测解释

    本研究使用层内重要性传播技术（LRP）首次探究其在自然语言处理（NLP）中的应用，特别是用于解释卷积神经网络（CNN）在主题分类任务中的预测结果，并通过多项实验验证 LRP 方法解释 CNN 预测的适用性，实验结果于最近的图像分类研究结果相符。

    Jun, 2016

  • 解释和说明用于音频信号分类的深度神经网络

    本文旨在探究如何使用 layer-wise relevance propagation 技术在音频领域内进行深度神经网络的解释性分析，并使用一个英语语音数字数据集对于语音数字和演讲者性别进行分类任务，通过对 LRP 得到的相关性分数进行假设和输入数据的系统操作，确认了在音频数据处理过程中的深度神经网络对相关特征的高度依赖性。

    Jul, 2018

  • 打破可解释深度学习的悖论

    该研究提出了一种使用新方法训练的深度超网络来生成可解释的线性模型的方法，以保留黑匣子深度网络的准确性并提供自由的可解释性，而需要与黑匣子深度模型相同的运行时和内存资源，实现了实用性，实验结果表明，该可解释的深层网络在表格数据上与最先进的分类器一样准确，且在实际预测中也具有与最先进的解释技术相当的解释能力。

    May, 2023

  • 结合概念分析和 ILP 的 DNN 表达式解释

    该论文研究了如何利用深度学习神经网络中学习到的内在特征，利用概念分析方法和归纳逻辑编程理论，构建基于符号的模型，实现黑盒机器学习的可解释性，体现其透明度和可靠性的要求。

    May, 2021

  • 文本文件中什么是相关的？：一种可解释的机器学习方法

    本文介绍了如何使用机器学习模型解释文本分类的决策过程以及如何生成基于词向量的文档表示方法。通过对两个不同类型的模型进行比较，表明卷积神经网络在可解释性方面的优势，也使得它更具有人类可理解性，并有潜力应用于其他领域。

    Dec, 2016

  • 可解释的深度神经网络用于单次试验的脑电波分类

    本研究探讨利用 DNNs 和 LRP 应用于 EEG 数据分析，发现 DNNs 在分类准确性上具有可比性，并且通过 LRP 的热图，可以提供神经活动高分辨率的评估，这是 DNN 在神经科学应用中被限制使用的可解释性不足的潜在解决方案。

    Apr, 2016

  • 层级相关性传播用于可解释的推荐

    本文探讨使用深度学习的模型进行推荐解释的问题，我们使用深度卷积神经网络从输入图像中提取相关特征，并在特征空间中识别图像之间的相似性，最后使用 Amazon 产品数据集验证了我们方法的有效性。

    Jul, 2018

  • 情感分析中解释循环神经网络预测

    本文提出了将 Layer-wise Relevance Propagation 扩展到递归神经网络的方法，并应用于五分类情感预测任务中的双向 LSTM 模型，其结果 qualitatively and quantitatively 均优于之前工作中使用的基于梯度的方法。

    Jun, 2017