Aug, 2022

RuDi：通过自动生成统计数据和规则提炼解释行为序列模型

PDF
TL;DR本文提出了一个名为 RuDi 的两阶段方法，能够将黑箱模型中的知识提炼为基于规则的模型。 RuDi 的第一阶段是使用基于蒙特卡罗树搜索 (Monte Carlo tree search-based) 的统计方法生成规则，第二阶段是使用提出的神经逻辑网络将统计数据组合成逻辑规则。本文还在三个公共数据集和一个工业数据集上评估了 RuDi 的有效性。
risk scoring systemsdeep learning methodsrule-based systemsmonte carlo tree search-based statistics generation methodneural logical networks
发现论文，激发创造
  • 使用加强和循环关系推理进行规则发现

    本文介绍了 R5，一种基于强化学习的关系推理框架，可以在关系图数据上推理，从观察结果中明确挖掘成分逻辑规则，具有强大的系统性和稳健性，实验结果表明 R5 在关系预测任务中优于各种基于嵌入和规则归纳的基线，并在发现基本事实规则时达到高召回率。

    May, 2022

  • 学习分类器系统中的规则发现和全局解决方案组合分离

    本文针对数字代理支持关键决策的应用难以获得信任这一难题，提出了基于规则学习的系统并设计透明易懂的模型，其中规则条件和问题解决方案的组成是分开演化的，允许用户特别定制模型以适应可解释性的要求。

    Feb, 2022

  • DRUM: 知识图上端到端可微分规则挖掘

    本文提出 DRUM 方法，使用双向 RNNs 挖掘知识图谱中的一阶逻辑规则，以实现归纳和可解释的链路预测，并与现有规则挖掘方法进行实证研究.

    Oct, 2019

  • 通过自动化和模型无关的规则提取实现区域可解释性

    在可解释人工智能（Explainable AI）中，我们提出了一种模型无关的方法，用于从特定的数据子组中提取规则。该方法通过自动生成数字特征规则，增强了机器学习模型的区域可解释性，并在高维空间中降低了计算成本。在各种数据集和模型的实验中，我们的方法表现出了很好的效果。

    Jun, 2024

  • 从大型预训练模型中提取特定任务的逻辑规则

    本研究提出了一种新的框架 STREAM，通过采用最新的基于提示的语言模型作为知识专家来提取任务特定的逻辑规则，从而自动化地学习逻辑规则，以减少人工标注的工作量，并通过实验验证了该框架在命名实体标记任务中的有效性。

    Oct, 2022

  • DE-RRD: 推荐系统知识蒸馏框架

    本文提出了一种新的知识蒸馏框架，DE-RRD，用于推荐系统，该框架使得学生模型能够从教师模型中编码的潜在知识和教师的预测中学习。实验证明，DE-RRD 的性能优于现有的竞争对手，并且具有更快的推断时间。

    Dec, 2020

  • 令您的决策有说服力！一个统一的两阶段框架：自我归属和决策

    自我归因与决策 (SADM) 是一个统一的两阶段框架，它不仅建立了生成的解释与模型决策之间更可靠的联系，而且在任务性能和解释质量方面取得了竞争性结果。

    Oct, 2023

  • 基于图形数据评估和规则推理的深度可解释性学习

    提出了一种结合深度学习和基于专家规则解释性的端到端方法，利用图模型和预定义噪声规则建立规则网络，达到处理噪声数据和提高可解释性的效果。在工业生产系统中的实验表明，该方法可以达到非常高的泛化稳定性，比纯规则方法具有更好的拟合能力和更好的可解释性。

    Nov, 2022

  • 基于深度神经网络的入侵检测系统的可解释性的多元规则提取

    该研究论文探讨了黑盒算法和替代解释器在可解释入侵检测系统（X-IDS）中引发的信任问题。通过将教学法和分解法综合应用于课程，该文介绍了一种混合的规则提取算法，从隐藏层中提取出可信任的规则集，用于黑盒深度神经网络（DNN）的解释。评估结果表明，这种算法能够生成与 DNN 输出相似的规则集，具有 99.9% 的准确率，并在解释性和性能方面进行了全面分析，展示了规则提取速度和准确性之间的权衡。

    Jan, 2024

  • 多样化的规则集

    该研究提出了一种新方法来推断不同的规则集，通过在 Max-Sum 多样化框架下优化决策规则之间的小重叠，以及在鉴别品质和规则集多样性之间最大化加权总和，来克服联想规则指数级搜索空间的困难。该算法通过随机采样高度鉴别且重叠小的规则，并证明其拥有更好的预测能力和解释性。

    Jun, 2020