explanation method | BriefGPT

关键词explanation method

搜索结果 - 11

面向深度伪造检测的可解释人工智能方法的量化评估
该研究提出了一个新的框架，用于评估解释方法在深造假检测器决策上的表现。通过检查这些区域可以通过一系列对抗性攻击进行修改的程度，来评估解释方法识别出对深造假检测器决策影响最大的伪造图像区域的能力，预计更准确地识别这些区域的方法会导致深造假检测
PDF2 months ago
由一组解释器产生的反事实集合中选择解释的多标准方法
基于多标准分析的多阶段集成方法能够从 Pareto 前沿中选择一个用于解释机器学习模型预测的可行对策。实验结果表明，该方法能够生成具有吸引力的多种质量度量的可操作对策。
PDF3 months ago
重塑异常现象：假若异常成为常态？
深度学习方法在图像异常检测方面取得了突破，但其复杂性给了解为何实例被预测为异常带来了相当大的挑战。我们提出了一种新的解释方法，为每个异常生成多个反事实示例，捕捉了异常的不同概念。反事实示例是对异常的修改，被异常检测器视为正常。该方法提供了对
PDF4 months ago
揭示二阶效应以解释预测的不确定性
可解释性人工智能为复杂的机器学习黑盒子带来了透明度，从而能够识别模型在预测中使用的特征。我们的研究揭示出预测不确定性主要由涉及单个特征或特征之间的乘积相互作用的二阶效应所主导。我们提出了一个基于这些二阶效应的预测不确定性解释方法。我们的方法
PDF5 months ago
脉冲神经网络的特征归因解释
我们提出了一种基于时间脉冲归因的解释方法，用于解释第三代人工神经网络，尖峰神经网络（SNNs），并评估其在人工和现实时间序列数据上的解释质量。
PDF8 months ago
SurvBeX：基于 Beran 估计的机器学习生存模型的解释方法
提出了一种名为 SurvBeX 的解释方法，用于解释机器学习生存黑盒模型的预测。该方法的主要思想是使用修改后的 Beran 估计器作为替代解释模型，并通过最小化黑盒模型与 Beran 估计器之间的平均距离来找到解释系数。通过使用合成和真实生
PDFa year ago
CVPR使用 Grad-CAM 进行普适对抗性解释
本论文提出了一种将 Grad-CAM 从基于实例的解释方法扩展到全局模型行为解释方法的新方法，其中引入了两个新指标来评估模型的泛化能力，利用对原始测试集和敌对测试集样本的 Grad-CAM 生成热图的规范化倒置结构相似性指标（NISSIM）
PDF2 years ago
基于模式的黑盒图分类器解释方法：GRAPHSHAP
本文介绍了一种 Shapley-based 方法 GRAPHSHAP，它可以对黑盒图分类器提供基于模体的解释；并在具有自闭症谱系障碍和对照组的真实大脑网络数据集上进行了测试，证明该方法可以有效地解释黑盒分类器所提供的分类结果。
PDF2 years ago
EMNLPBERT-Beta: 一种主动概率文本审查方法
本文提出了一种基于 “文本毒性倾向” 的概念，通过引入预测性评估来增强反应式评论，使用 Beta regression 模型进行概率建模并提出解释方法以提高文本审查的准确性和可解释性，同时还提出了一种扩展线性模型的手段以提高预测精度。
PDF3 years ago
在潜在特征空间中通过学习图像示例实现黑匣子解释
通过在黑盒模型中采用对抗性自动编码器学习到的潜在特征空间，生成实例图像并学习决策树分类器的方法，从而对黑盒模型进行解释，并提供了更好的解释性能。
PDF4 years ago
KDDSHAP 对 Alert 处理的人类基础评估
在本研究中，我们对一种名为 SHAP 的解释方法进行人本评估，该方法已在可解释人工智能和相关社区中广受欢迎。我们研究了这种局部规范无关解释方法是否对实际的人类领域专家有用，以评估分类器产生的正面预测的正确性。结果表明，SHAP 解释确实影响
PDF5 years ago