利用 SHAP 解释 Autoencoder 检测到的异常值
研究了一种基于自编码器的图像异常检测方法,发现传统方法在训练时存在离群点时导致异常检测性能降低的问题,使用对抗自编码器引入先验分布可以较好地克服该问题。
Jan, 2019
利用可解释的人工智能(XAI)中的 kernelSHAP 方法检测和解释网络异常,以提高网络异常检测模型的准确率、召回率、精确率和 F 分数。
Jul, 2023
这篇文章提出了一种基于深度学习技术的自编码器,通过学习超级计算机节点的正常行为来检测异常条件,测试结果表明该方法能够在正常系统行为学习阶段后,以非常好的准确率(在 88%至 96%之间)检测出之前未曾见过的异常条件,因此具有广阔的应用前景。
Nov, 2018
探索如何使基于重构误差的神经网络模型在发现异常值时可以将已知的异常值排除在正常数据的范畴之外,并利用一些有限的异常数据来增加正常数据和异常数据之间的差异以提高异常检测的性能。
May, 2023
在本研究中,我们对一种名为 SHAP 的解释方法进行人本评估,该方法已在可解释人工智能和相关社区中广受欢迎。我们研究了这种局部规范无关解释方法是否对实际的人类领域专家有用,以评估分类器产生的正面预测的正确性。结果表明,SHAP 解释确实影响决策过程,尽管该方法得分的置信度仍然是主要的证据来源。但在我们的实验中,当提示信息可用时,与不提供提示信息相比,在警报处理性能方面并没有明显差异。
Jul, 2019
本文介绍了一种新的检测方法,该方法使用计算深度神经网络分类器的内部层的 Shapley 加性解释(SHAP)值来区分正常和对抗输入。通过针对流行的 CIFAR-10 和 MNIST 数据集构建数据集,训练基于神经网络的检测器去区分正常和对抗性输入,并评估了该方法在对抗攻击生成的对抗性数据上的检测能力。结果表明,该检测器具有高的检测准确性和对使用不同攻击方法生成的对抗性输入的强大泛化能力。
Sep, 2019
本文探讨了如何使用变分贝叶斯和变分自编码器(VAEs)进行异常检测(AD)任务,提出了一个新的方法来处理具有层次结构的数据。该方法在经典机器学习基准测试和监测 CERN 大型强子对撞机(LHC)实验的触发系统等应用中表现出卓越的性能。
Oct, 2020
本研究基于自编码器综合考虑多变量时间序列数据中的异常检测及根本原因分析,通过总重构误差和局部重构误差判别冷却系统故障位置并结合专家知识进行根本原因分析,针对 34 个传感器 8 个月数据在冷却系统单元上进行了探究,并且对比验证结果表明自编码器方法能够稳定而且鲁棒性高地检测冷却系统中的异常。
Oct, 2022
利用信息理论揭示了基于自动编码器的重建方法在异常检测中的原理和设计理念,并验证了通过最小化潜在向量的信息熵来提高自动编码器在异常检测中的效果。
Mar, 2024