Jan, 2024

基于深度神经网络的入侵检测系统的可解释性的多元规则提取

PDF
TL;DR该研究论文探讨了黑盒算法和替代解释器在可解释入侵检测系统（X-IDS）中引发的信任问题。通过将教学法和分解法综合应用于课程，该文介绍了一种混合的规则提取算法，从隐藏层中提取出可信任的规则集，用于黑盒深度神经网络（DNN）的解释。评估结果表明，这种算法能够生成与 DNN 输出相似的规则集，具有 99.9% 的准确率，并在解释性和性能方面进行了全面分析，展示了规则提取速度和准确性之间的权衡。
explainable intrusion detection systemsblack box algorithmssurrogate explainersrule extractioneclectic rule extraction
发现论文，激发创造
  • 使用競爭學習技術的可解釋入侵檢測系統

    本论文旨在提出一种基于可解释性竞争学习的入侵检测系统框架，该框架使用诸如自组织映射、生长自组织映射和生长分层自组织映射等算法建模，并能通过数据挖掘生成统计和可视化的解释，较黑盒模型更具解释力和提高了预测速度。

    Mar, 2023

  • 可解释的入侵检测系统 (X-IDS)：当前方法、挑战和机会的调查

    应用人工智能和机器学习于网络安全已有广泛应用，特别是使用深度学习技术设计的 IDS. 然而，这些系统被视为黑盒模型，无法提供预测的合理解释。因此，需要设计可解释的 IDS，调查了可解释 AI 的现状，并提出了一种人们参与的通用架构，以用作设计 X-IDS 的指导

    Jul, 2022

  • 深度神经网络的高效分解规则提取

    本篇论文提出了一种新的基于多项式时间复杂度的规则提取算法 ECLAIRE，该算法适用于大型 DNN 架构和大型训练数据集，并在乳腺癌预后和粒子探测等任务上表现出超过现有技术的准确性和可理解性。

    Nov, 2021

  • X-CBA: 解释能助力 CatBoosted Anomal-E 用于入侵检测系统

    使用深度学习和图神经网络构建的可解释入侵检测系统（IDS）提供了高精度的网络攻击和异常识别方案。该研究通过利用网络流数据，结合边属性，改进检测能力，适应新型威胁，并提供清晰可行的解释分析结果，以促进机器学习和深度学习技术在网络安全防御中的广泛应用。

    Feb, 2024

  • 运用自组织映射创建可解释性入侵检测系统

    本文介绍了一种基于自组织映射的可解释入侵检测系统（X-IDS），该系统可以产生全局和局部的可解释性可视化；该 X-IDS 在 NSL-KDD 和 CIC-IDS-2017 数据集上通过解释生成和传统精度测试进行了评估。

    Jul, 2022

  • 通过自动化和模型无关的规则提取实现区域可解释性

    在可解释人工智能（Explainable AI）中，我们提出了一种模型无关的方法，用于从特定的数据子组中提取规则。该方法通过自动生成数字特征规则，增强了机器学习模型的区域可解释性，并在高维空间中降低了计算成本。在各种数据集和模型的实验中，我们的方法表现出了很好的效果。

    Jun, 2024

  • 一种可解释的泛化机制用于准确检测异常并识别网络入侵技术

    通过互联网入侵检测系统（IDS）与可解释人工智能（XAI）的集成，最近取得了显著的性能提升，通过精确的特征选择。然而，深入了解网络攻击需要 IDS 内部可解释的决策过程。本文提出了易于解释的泛化机制（IG），具有革新 IDS 能力的潜力。IG 区分出一致的模式，从而使其具有解释能力，可以区分正常和异常的网络流量。此外，一致模式的合成揭示了复杂的入侵路径，为网络安全取证提供了重要见解。通过与实际数据集 NSL-KDD、UNSW-NB15 和 UKM-IDS20 的实验，IG 即使在低比例的训练和测试中也能取得较高的准确性。在 NSL-KDD 中，当比例为 10% 至 90% 时，IG 的准确率（PRE）为 0.93，召回率（REC）为 0.94，曲线下面积（AUC）为 0.94；在 UNSW-NB15 中，IG 的 PRE 为 0.98，REC 为 0.99，AUC 为 0.99；在 UKM-IDS20 中，IG 的 PRE 为 0.98，REC 为 0.98，AUC 为 0.99。值得注意的是，在 UNSW-NB15 中，IG 在 40% 至 60% 时实现 REC=1.0，至少 PRE=0.98；在 UKM-IDS20 中，IG 在 20% 至 80% 时实现 REC=1.0，至少 PRE=0.88。在 UKM-IDS20 中，IG 成功识别出所有三个异常实例，说明其具有泛化能力。这些结果和推论是可复现的。总之，IG 通过在各种数据集和训练和测试比例（从 10% 至 90% 到 90% 至 10%）之间始终表现出色，并且在没有先前接触的情况下优秀地识别新的异常，展示了卓越的泛化能力。其可解释性通过准确区分正常和异常活动的一致证据得到增强，显著提高了检测准确性，降低了误报，从而增强了 IDS 的可靠性和可信度。

    Mar, 2024

  • 尊重模型：精细和稳健的解释与共享比率分解

    我们提出了一种名为 SRD（共享比例分解）的新颖可解释 AI（XAI）方法，真实地反映了模型的推理过程，提高了解释的鲁棒性。通过采用向量视角考虑滤波器之间复杂的非线性相互作用，我们与传统的神经级别方法不同，我们引入了一个有趣的观察称为仅激活模式预测（APOP），让我们强调不活跃神经元的重要性，并重新定义了包含所有相关信息的相关性，包括活动和不活动的神经元。我们的方法 SRD 允许对逐点特征向量（PFV）进行递归分解，在任何层提供高分辨率的有效接收域（ERF）。

    Jan, 2024

  • 可解释人工智能方法的可靠性和稳定性如何？

    黑盒模型、可解释人工智能方法（XAI 方法）、eXirt、扰动等是本研究的关键词，通过实验和生成解释以评估 XAI 方法的稳定性和可靠性。结果表明，eXirt 能够识别出最可靠的模型，同时发现当前 XAI 方法对扰动敏感，但存在一个特定方法例外。

    Jul, 2024

  • 结合概念分析和 ILP 的 DNN 表达式解释

    该论文研究了如何利用深度学习神经网络中学习到的内在特征，利用概念分析方法和归纳逻辑编程理论，构建基于符号的模型，实现黑盒机器学习的可解释性，体现其透明度和可靠性的要求。

    May, 2021