Dec, 2023

前馈神经网络中的规则提取方法：系统性文献综述

PDF
TL;DR通过系统性文献综述，本文着重于规则提取作为神经网络可解释性的手段，发现了二十多年来使用于浅层神经网络的各种规则提取方法，并对深度学习模型提出的挑战进行了探索，为对这一领域感兴趣的研究人员提供了全面的介绍。
发现论文，激发创造
  • 循环神经网络中规则抽取的实证评估

    研究从训练过的 RNN 中提取规则的方法，结果表明在适当的情况下生产规则的效果优于训练过的 RNN。

    Sep, 2017

  • 从神经网络中学习准确且可解释的决策规则集

    本文提出了一种新的范式，使用一个可解释的二层神经网络学习一组独立的逻辑规则作为分类的模型，并提出一种基于稀疏性的规则得出算法，相比其他学习算法和黑匣子模型，该方法可以在分类准确性和简单性之间取得更好的平衡。

    Mar, 2021

  • 利用逻辑规则开发深度神经网络

    这篇论文提出了一种深度学习和逻辑规则相结合的通用框架，能够将逻辑规则的结构信息转移至神经网络的权重中，有效地提高了 CNN 和 RNN 的性能，适用于情感分析和命名实体识别等多个领域。

    Mar, 2016

  • 从示例到规则：信息提取的神经引导规则合成

    本文介绍了一项利用程序合成技术在信息提取领域中自动生成规则并取得了与状态 - of-art 相当甚至更好表现的方法。

    Jan, 2022

  • 递归神经网络规则提取的比较研究

    本研究旨在探讨不同复杂度的 Tomita 文法上，从常用的循环神经网络中提取确定有限状态自动机的性能表现。研究结果表明，随着底层文法复杂度的提高，大多数循环神经网络的提取性能逐渐降低。

    Jan, 2018

  • 从神经网络中提取规则列表的 NN2Rules 方法

    本文介绍了一种名为 NN2Rules 的算法，用于将经过训练的神经网络转换成规则列表。通过该方法提取的决策规则与神经元行为类型（如 sigmoid 激活函数或 ReLU 函数）无关，且提取出的规则对任意输入都有与原神经网络相同的预测准确性。

    Jul, 2022

  • 深度神经网络解释

    研究了两种深度神经网络解释说明的主流方向，一种是基于特征的事后解释方法，另一种是自解释的神经网络模型，并生成自然语言解释。

    Oct, 2020

  • 通过自动化和模型无关的规则提取实现区域可解释性

    在可解释人工智能（Explainable AI）中，我们提出了一种模型无关的方法，用于从特定的数据子组中提取规则。该方法通过自动生成数字特征规则，增强了机器学习模型的区域可解释性，并在高维空间中降低了计算成本。在各种数据集和模型的实验中，我们的方法表现出了很好的效果。

    Jun, 2024

  • 模型提取实现可解释性

    这篇论文提出一种名为模型抽取的方法，通过构建一个可解释程度更高的模型来近似黑箱模型，从而理解和调试机器学习模型在各种数据集上训练的结果，并在经典强化学习问题中学习控制策略。

    Jun, 2017

  • 走向可解释人工智能方法基准测试

    本文以科学哲学理论作为分析视角，研究解释性方法在神经网络性能评估中的应用，并发现解释性方法的实用性依赖于人类领域知识和理解推理能力。本研究得出结论，基准测试解释性方法是迈向可信人工智能和机器学习的中心任务。

    Aug, 2022