integrated gradients | BriefGPT

关键词integrated gradients

搜索结果 - 30

IG2：特征归因的迭代梯度路径上的综合梯度
特征归因方法 IG2 整合了梯度的正常输出和反事实输出，提高了特征归因的准确性，并证明在多个领域取得了优于现有技术的结果。
PDF18 days ago
ICML流形综合梯度：特征归因的黎曼几何
通过适应路径影响力的方法，了解了集成梯度（IG）在黑盒深度学习模型中存在的可靠性问题，主要是生成针对视觉模型的嘈杂特征可视化和对敌对归属攻击的脆弱性。我们的实验使用深度生成模型应用于多个真实图像数据集，证明了 IG 沿测地线符合黎曼数据流形
PDF2 months ago
EMNLP一种孪生编码器的归因方法
该研究通过将相对于单个输入的集成梯度原理推广到具有多个输入的模型，导出了一种用于 Siamese 编码器的局部归因方法。该方法采用特征对归因的形式，并可简化为用于 sentence transformers 的令牌 - 令牌矩阵。通过关注名
PDF9 months ago
从 Shapley 值的角度重新思考集成梯度的基准线
提出了一种名为 Shapley Integrated Gradients (SIG) 的新的基线构建方法，通过比例采样来模拟 Shapley Value 的计算路径，并在不同的图像任务中对其进行了实验验证，结果显示 SIG 在特征贡献估计、
PDF9 months ago
一种新颖的关于方面的情感分析的反事实方法
提出一种采用反事实数据增强方法，针对情感分析任务中球面情感倾向分析的问题，该方法利用集成梯度计算和蒙版技术对情感表达式进行反转，并通过一个 T5 预训练语言模型进行预测，在三个开源数据集上获得更好的结果。
PDFa year ago
利用可解释人工智能提高分类系统的策略
本研究探讨了一组通常与机器学习分类任务一起使用的著名可解释人工智能 (XAI) 方法，以验证它们是否能被利用，不仅提供解释，而且还可以改善模型本身的性能。研究结果表明，Integrated Gradients 方法构建的解释突出了可用于提高
PDFa year ago
集成决策梯度：在模型做出决策的地方计算您的属性
本研究提出了一种新的归因算法 (IDG) 用于神经网络模型的解释，该算法实现了通过将梯度积分到模型决策区域来解决饱和问题，该算法在 ImageNet 上进行的评估表明 IDG 在三个常见模型中以标准插入和删除度量标准在质量和量化上都优于 I
PDFa year ago
ACLAD-KD: 基于属性的知识蒸馏用于语言模型压缩
本文提出了一种基于 Integrated Gradients 的新颖的归因驱动知识蒸馏方法，它探索了教师模型背后的 token-level 解释，并将知识转移给学生模型，进一步探索了多视角归因蒸馏。实验证明我们的方法在 GLUE 基准测试中
PDFa year ago
CVPRIDGI: 从 Integrated Gradients 中消除解释噪声的框架
通过重视噪音源，提出了一种新的框架 ——IDGI，结合了 Reimann Integration 和 IG-based 的方法，可以在解释性指标上显著提高。
PDFa year ago
低延迟可解释 AI 中的非均匀插值
本研究提出了一种新的算法优化方法，通过硬件感知将 Integrated Gradients 算法加速，使其在保证收敛的同时，显著减少总插值步骤并提高了性能，同时我们在 ImageNet 数据集上进行的实验进一步验证了该算法的有效性。
PDFa year ago
探究 3D 物体检测中解释的定量应用场景
本文提出了 Explanation Concentration (XC) scores，并以 KITTI and Waymo 3D 目标检测等任务为例，取得了比其他启发式方法更好的效果，验证了 XC 在更多应用场景中的潜力。同时，我们还发现
PDF2 years ago
一种用于异常检测的可解释性 AI 的通用应用方法
文章提供了一个基于可解释性和解释性方法的误差检测通用方法，并使用集成梯度方法来减少 Attribution Error。
PDF2 years ago
基于集成梯度的可迁移对抗攻击
通过将标准客观函数优化、利用注意力图和平滑决策表面三种方法紧密整合，我们在本文中提出了一种新的简单算法 TAIG (Transferable Attack based on Integrated Gradients)，它可以为黑盒攻击寻找高
PDF2 years ago
回归模型的删除和插入测试
介绍了一种基于归类算法的重点特征提取方法，使用该方法比较了不同特征提取算法在回归问题中的表现，并且基于 Shapley 值考虑了二进制变量的处理方法。
PDF2 years ago
用 Riemann-Stieltjes 积分梯度定位从深度网络中得到视觉解释
本文介绍了一种新的用于计算神经网络预测的可视化解释技术，该技术可以在卷积神经网络的任何层上应用，并且不受消失梯度问题的影响，采用 Riemann-Stieltjes 和逼近法进行层级数值梯度积分。与 Grad-CAM 相比，我们算法产生的热
PDF2 years ago
通过理性提取进行零样本代码混合攻击性跨度识别
本文研究了在混合代码泰米尔数据集上使用句子级变压器进行零 - shot 攻击性跨度识别的有效性，并评估了 LIME 和 IG 的基线性能，探究数据集大小和训练进程对跨度识别准确率的影响，并发现在 Masked 数据增强和多标签训练的情况下
PDF2 years ago
综合梯度的最大熵基线
该研究提出了一种新的基线方法 —— 最大熵基线，用于解释 Integrated Gradients 方法从而保证解释的可靠性，并结合线性变换不变性进行了改进性的模型评估实验。
PDF2 years ago
Doctor XAvIer：医患对话的可解释诊断与 XAI 评估
介绍了一种基于 BERT 的诊断系统 Doctor XAvIer，能够从病人和医生的对话中提取诊断所需数据并利用特征归因方法来解释预测结果。通过特征归因松弛曲线和其归一化曲线下面积来评价特征归因方法的性能，分析表明综合梯度比 Shapley
PDF2 years ago
EMNLP用离散化的综合梯度来解释语言模型
本文针对 Integrated Gradients 在文本数据中由于词嵌入空间的固有离散性导致插值点不够具有代表性的问题，提出了基于离散化插值策略的 Discretized Integrated Gradients 方法，与 Integra
PDF3 years ago
引导式集成梯度：一种用于去除噪声的自适应路径方法
本文提出了自适应路径方法（APM）以及其特例 Guided IG 方法，通过调整归因路径本身（而非仅减少结果中的噪声）来解决在视觉模型上应用 Integrated Gradients 方法产生噪声像素归因的问题，并实验证明其在几乎所有实验中
PDF3 years ago