attribution methods | BriefGPT

关键词attribution methods

搜索结果 - 39

ICLR基于损失梯度的可解释方法中的异常行为
本文使用损失梯度来解释深度学习模型的决策过程，并通过遮盖输入的部分来评估基于损失梯度的归因方法的表现，在一定条件下，遮盖后的输入在测试数据集上表现更好，探索不同的损失梯度归因方法、遮盖水平和替换值来解释遮盖下性能提升现象。
PDF2 years ago
自然语言推理中归因方法评估的多语言视角
本文提出了一种多语言方法，用于评估自然语言推理的归因方法在合理性和忠实度方面的表现，并通过单词对齐量化忠实度。认为效果最好的归因方法在合理性和忠实度方面不同，并用基于高亮的解释增强了 XNLI 数据集，提供了一个支持未来 exNLP 研究的
PDF2 years ago
ACL动态精化正则化以提高跨语料库的仇恨言论检测
自动识别和减少虚假相关，并使用动态精修词汇表来规范已有的分类器以提高跨数据集的表现。
PDF2 years ago
时间关注：使用时间序列归因方法的全面基准测试
本文重点研究时间序列分析，对比了几种最先进的卷积分类器解释方法，发现扰动法是较优选项，但也强调选择最适合的归因方法与所需用例的选择密切相关。
PDF2 years ago
MM自然语音识别可视化 —— 提高理解的方法？
本文介绍了如何使用图像识别中的归因方法，结合音频数据，帮助可视化深度神经网络自动语音识别模型中输入的哪些特征对输出结果影响最大。通过比较 Layer-wise Relevance Propagation（LRP）、Saliency Maps
PDF2 years ago
ACL如何使用被遮掩语言模型合成的反事实来避免解释文本分类器的决策的困扰？
本文研究了属于权值归因方法的输入边缘化算法 (Input Marginalization) 和基于局部线性扫描 (LIME) 的可解释性方法，发现 LIME 方法在使用 BERT 模型进行样本生成后，比输入边缘化算法具有更高的鲁棒性和可靠性
PDF3 years ago
ACL结合特征和实例归因来检测伪影
本文提出了一种新的训练特征归因方法，通过结合显著性图和实例归因方法，可以有效地发现训练数据中的人工瑕疵，并在实验中取得了良好的结果。
PDF3 years ago
ACL通过切除和归因来分解抽象摘要模型的生成模式
本文提出了一种两步解释自然语言生成的方法，通过对自然语言生成器生成标注的决策进行分类并解释，以确定生成指定层级的下一个标注所依赖的输入内容。
PDF3 years ago
EMNLP探索 BERT Token 表达在句子探测结果中的作用
本文从 BERT 的表示空间出发，通过一系列探针任务和属性方法探究模型的语言学知识表达方式，发现 BERT 倾向于对语法和语义异常进行编码，并能够明显地区分语法数和时态子空间。
PDF3 years ago
ACL评估解释：老师的解释在多大程度上有助于学生？
本文提出了一个框架，通过衡量解释对用于模拟教师模型的学生模型的精确度增益来量化解释的价值，并比较了多种文本分类和问题回答任务的解释方法，观察到了在不同学生模型结构和学习策略中一致的定量差异。
PDF4 years ago
EMNLP神经模型中不同层次的决策是如何产生的？可微掩模解释
该研究提出了一种 Differentiable Masking 的方法，通过预测而非搜索的方式学习掩蔽输入的子集，以此解决模型剪枝的过于激进以及揭示模型层之间的决策形成，研究了 DiffMask 在 BERT 模型上对情感分类和问答的应用。
PDF4 years ago
CVPRSAM: 归因方法对超参数的敏感性
本文提供了关于现有归因方法敏感性的实证研究结果，发现许多方法对其常见超参数异常敏感，这不仅影响了研究结果的复制性，也会影响最终用户的信任度。同时，现在常见的准确性评估方法并不能完全反映出这种敏感性，并且在对抗像素扰动下训练的健壮分类器提供的
PDF4 years ago
诠释解释：按标准整理归因方法
该研究拓展了深度学习可解释性领域的基础，引入了必要性、充分性和比例概念等新的度量方法研究输入归因，以便比较不同方法和解释结果。研究评估了用于图像分类的不同 CNN 解释方法在必要性和充分性方面的表现。
PDF4 years ago
ICLR限制信息流：用于归因的信息瓶颈
本研究使用信息瓶颈概念进行属性分析，通过添加噪声来限制信息流并量化图像区域提供的信息量，并在 VGG-16 和 ResNet-50 上对比了十种基线方法，发现我们的方法在五个设置中均优于所有基线。
PDF5 years ago
ICML当解释欺骗我们：为什么很多改进版的 BP Attribution 失败了
该研究分析了多种 BP 方法，提供了一种理论和实证的框架来评估新的和现有的 BP 方法的可信度，表明这些方法的解释与后续层的参数无关，测量了这些方法如何忽略后续层信息，发现 DeepLIFT 是唯一不受此限制的方法。
PDF5 years ago
测试卷积神经网络在基于 MRI 的阿尔茨海默病分类中的归因方法的稳健性
研究了四种归因方法在阿尔茨海默病分类任务中的有效性，并发现某些广泛使用的归因方法产生高度不一致的结果。
PDF5 years ago
ICML用于 Shapley 值近似的多项式时间算法解释深度神经网络
该研究提出了一种基于不确定性传播的深度神经网络 Shapley 值的多项式时间逼近方法，相较于现有最先进的归因方法，该方法可以显著地更好地逼近 Shapley 值。
PDF5 years ago
基于因果分析的归因检测对抗样本
使用涉及一系列方法来解释机器学习模型的决策，研究表明这种方法可以用于确定高属性特征的影响并检测出恶意攻击。
PDF5 years ago
ICCVSaliency 图为什么嘈杂？嘈杂 Saliency 图的原因和解决方案
本文通过提出新的假设 — 噪声可能出现在 Saliency Map 中，因为无关特征会经过 ReLU 激活函数，提出了一种称为 Rectified Gradient 的方法，通过层次阈值反向传播来缓解这个问题，并在 CIFAR-10 和 I
PDF5 years ago