Oct, 2023

透明异常检测的基于概念的解释

PDF
TL;DR透明异常检测概念解释（ACE）是一种基于深度学习技术的新方法，旨在提供可解释的异常检测结果，并能与人类有效交互，具有与黑盒模型相比更高或相当的性能，并可与其他基于分类的异常检测方法无缝集成。
deep learning techniquesanomaly detectiontransparent anomaly detection concept explanationshuman interpretable explanationsconcept learning paradigm
发现论文，激发创造
  • AcME-AD：用于异常检测的加速模型解释

    AcME-AD 是一种基于可解释人工智能原则的新型方法，旨在提高数据异常检测模型的解释性和可靠性，通过提供本地特征重要性评分和 what-if 分析工具来揭示每个异常的因素，从而帮助解决原因分析和决策问题。

    Mar, 2024

  • 超越熟悉特征的深度异常检测

    使用解释性来捕获输入空间中的新特征作为未解释的观察结果，结合相似性和新颖性的混合方法在各种异常基准上实现了强大的性能，成为多个基准的新的最先进方法，消除了昂贵的背景模型和密集匹配的需求，并对挑战性的基准上的假阴性异常减少了 40%。我们的方法为像素级异常提供可视化的检查解释。

    Oct, 2023

  • 自动基于概念的解释

    提出了概念解释的原则和求解算法 ACE，能够系统性地通过可视化概念提供对深度神经网络预测的重要性的人类可解释性解释。

    Feb, 2019

  • X-MAN: 解释视频中多个异常源

    文中提出了一种可以理解的概率异常检测器，可以通过高级概念描述其响应的原因，并且是首个将对象交互考虑在内并提供异常解释的任务。

    Jun, 2021

  • 使用 AcME-AD 在工业流程中实现高效灵活的数据驱动异常检测可解释性

    本文首次在工业环境中应用 AcME-AD，实验证明其作为工业环境下可信且可操作洞察力的有价值工具，通过提供模型无关且灵活的快速用户友好解释，以及基于特征的根本原因分析，为支持行动决策提供支持，为透明度不足、洞察力无法转化为可操作决策的挑战提供解决方案，特别适用于与人为中心的演进工业时代。

    Apr, 2024

  • X-CBA: 解释能助力 CatBoosted Anomal-E 用于入侵检测系统

    使用深度学习和图神经网络构建的可解释入侵检测系统（IDS）提供了高精度的网络攻击和异常识别方案。该研究通过利用网络流数据，结合边属性，改进检测能力，适应新型威胁，并提供清晰可行的解释分析结果，以促进机器学习和深度学习技术在网络安全防御中的广泛应用。

    Feb, 2024

  • 一种用于异常检测的可解释性 AI 的通用应用方法

    文章提供了一个基于可解释性和解释性方法的误差检测通用方法，并使用集成梯度方法来减少 Attribution Error。

    Jul, 2022

  • ECATS: 基于概念的可解释度异常检测方法用于时间序列

    通过 ECATS 的概念化神经符号架构，利用核函数方法对信号时序逻辑公式进行学习，实现了对复杂性网络的类别预测和有意义解释的提取。

    May, 2024

  • 自动概念嵌入模型 (ACEM): 无需训练时间概念，无问题！

    神经网络的可解释性和解释能力在特别是在安全关键领域和提供社会解释权方面不断增加。定概念解释在线合人类推理的方式上效果良好，是一种很好的解释模型的方法。概念嵌入模型是一种基于概念的解释架构，已经证明在解释能力和性能之间取得了平衡。然而，它们存在一个关键限制 -- 需要为所有训练数据提供概念注释。针对这一问题，我们提出了自动概念嵌入模型（ACEMs），可以自动学习概念注释。

    Sep, 2023

  • 深度异常检测中的假设重新思考

    本研究探讨异常检测在图像领域的深度学习方法，通过在 ImageNet 数据集上与现有深度学习算法和少量随机自然图像进行比较，发现多尺度图像数据的结构特点可以提高异常样本的识别效果。

    May, 2020