integrated gradients | BriefGPT

关键词integrated gradients

搜索结果 - 30

ICMLLIME 在图像中看到了什么？
该论文研究了 LIME 作为解释方法之一在理论上的局限性和与另一解释方法 integrated gradients 的联系，探讨了其在计算机视觉和目标识别领域的应用。
PDF3 years ago
ICML研究集成梯度中的饱和效应
我们探索了 Integrated Gradients 的不同区域的组成和相对影响，并发现该路径的饱和区域梯度对计算的归因产生了不成比例的影响。我们提出了一种 Integrated Gradients 的变体，主要捕获未饱和区域的梯度，并在
PDF4 years ago
EMNLP基于阅读理解的问答中 BERT 的解释研究
该论文使用 Integrated Gradients 解释 BERT 在阅读理解中的层次化功能，发现早期层次着重于查询 - 段落交互，而后期层次集中在上下文理解和应答预测，特别适用于量词问题，即使是在存在混淆的情况下，BERT 仍然能够正确
PDF4 years ago
ICML模式引导的整合梯度
本研究将 Integrated Gradients 和 PatternAttribution 两种神经网络可解释性方法相结合，形成了 Pattern-Guided Integrated Gradients (PGIG) 方法，并在大规模图像
PDF4 years ago
广义集成梯度：解释多元集成的实用方法
本文介绍了广义整合梯度（GIG），是解释 ML 预测模型的输入变量的方法，并且相较于其他方法有很好的特性，适用于各种实际应用，特别是金融领域。我们证明了在合理的公理下，GIG 是解释混合型模型或游戏的唯一正确方法。
PDF5 years ago
模型解释的多个 Shapley 值
本文探讨了 Shapley 值在归因问题中的多样实现方式及产生的问题，且提出了一种基于独特性原理的技术 Baseline Shapley（BShap），并将其与 Integrated Gradients 进行对比。
PDF5 years ago
鲁棒归因正则化
通过公理归因神经网络的视角，我们提出了经典鲁棒优化模型的训练目标，旨在实现鲁棒的集成梯度归因。实验结果表明了我们方法的有效性，并表明需要更好的优化技术或更好的神经网络架构来进行鲁棒的归因训练。
PDF5 years ago
通过使用集成梯度进行优化来可视化深度网络
本文提出了一种名为 I-GOS 的方法，该方法使用了基于积分梯度的下降方向来优化热图，并能够在任意分辨率下计算不同用户需求的热图，实验证明该方法可更准确地与深度网络的决策相关联。
PDF5 years ago
IJCAI图数据上的对抗样本：攻击和防御的深度洞察
本文提出了针对图数据的攻击和防御技术，其中引入了集成梯度来解决离散特征的问题，并且发现对于攻击后的图形，它的统计特征与正常图形不同，并提出一种检查图像并找到潜在的对抗扰动的方法。经过若干数据集的测试显示本文方法的有效性。
PDF5 years ago
深度神经网络公理归因
本文研究了深度网络输入特征对预测的影响，提出了敏感性和实现不变性两个公理，并指出大部分已知的边缘归因方法并不满足这两个公理。最后，作者设计了一种不需要修改原始网络的全新边缘归因方法 —— 集成梯度，并将其应用于图像、文本和化学模型中。结果表
PDF7 years ago