基于深度学习模型的漏洞检测器已被证明在最近几年中取得了显著效果。然而，这些检测器决策过程的不透明性使安全分析人员难以理解。为解决这个问题，各种解释方法被提出来通过突出重要特征来解释预测结果，在计算机视觉和自然语言处理等其他领域已经被证明是有效的。不幸的是，对于这些解释方法学习和理解的细粒度漏洞相关代码行等关键特征的深入评估仍然缺乏。在本研究中，我们首先通过两个定量指标（准确度和漏洞代码行覆盖率）衡量，评估了基于图形和序列表示的十种漏洞检测器解释方法的性能。我们的结果表明，仅凭准确度无法充分评估这些方法，因为准确度在不同数据集和检测器之间存在显著波动。随后我们检查了解释方法报告的与漏洞相关的代码行的准确度，并发现所有方法在这个任务中都表现出较差的准确性。这可以归因于解释器在选择重要特征和深度学习检测器学习到的不相关的工件方面的低效性。

Jan, 2024

借鉴形式推理解释，提出了正式特征归因（FFA）方法，通过近似 FFA 技术证明了其在特征重要性和顺序方面相对于现有特征归因算法的有效性。

Jul, 2023

我们提出了 Faithful Attention Explainer（FAE）的框架，用于生成关于关注特征的忠实文本解释，并展示了该模型在生成图像描述和解译人类注意力方面的良好性能。

May, 2024

本论文研究表明，文本分类器中存在易受干扰的解释方法，因此需要在应用于实际场景时伴随着文本分类器进行忠实和稳健的解释方法，以防止解释被局部且不可察觉的扰动所改变，TEF 是一种新颖的解释攻击算法，可以通过改变文本输入样本来显著改变常用解释方法的结果，但保持分类器的预测不变。我们对 5 个序列分类数据集进行了评估，考虑了三种 DNN 架构和每个数据集的三种变换器架构，发现所有模型和解释方法都容易受到 TEF 扰动的影响，这表明文本分类器中的解释非常脆弱。

Jun, 2022

通过解释性人工智能方法，我们分析深度学习分类器的推理过程，揭示其偏差，并设计了一个去除偏差的上下文感知检测系统，保持了最先进深度学习分类器的检测率，并提出了一个可视化分析系统，增强了对检测方法的理解、信任和透明度，促进决策制定。

Jul, 2023

提出了一种模型无关的方法 MeTFA 用于量化不确定性并增加解释算法的稳定性，该方法可将信任度提高，并可在保持可信度的同时显著减少不稳定性，并展示了在语义分割模型中定位上下文偏差和抵御针对解释的对抗攻击的潜在能力。

Sep, 2022

研究介绍了使用联邦学习和可解释的人工智能的新方法来解决金融机构在欺诈检测方面面临的挑战，该方法能够在保护数据隐私的同时提高检测系统的性能，并具备透明性和可解释性。

Dec, 2023

通过模拟人的信息处理模型、引入人类知识、设计先验感知的双通道核心图网络来检测假新闻，取得了比现有方法更好的效果和可解释性。

Sep, 2021

使用深度学习和可解释人工智能技术，提出了一种领域特定的特征归因框架，用于检测滚动轴承的故障，并能有效增强模型对领域专家的理解能力。

Oct, 2023

本研究旨在检验特征归因法在不同深度学习架构模型间的泛化能力，以及探索归一化的特征解释方法在提高机器学习应用的可解释性和信任度方面的潜力。

Jul, 2023