attribution method | BriefGPT

关键词attribution method

搜索结果 - 8

追溯一个联盟的输入变量归因
从全新的角度，本文旨在开发一种新的归因方法，以解释个体变量的归属和联合归属之间的冲突。通过重新分配交互作用，我们将 Shapley 值扩展到联合归属，并推导出该冲突的基本机制，该冲突来自于联合中包含部分变量的交互作用。
PDF9 months ago
ACL使用针对语义任务训练的模型评估词汇重要性
本研究提出一种基于自然语言推理和释义识别的模型训练方法，通过解释预测模型的预测结果，得到每个输入标记的重要性分数，并可以分析其语法特征，可用于识别训练中没有明确标记的句子中的重要单词。
PDFa year ago
ACL自然语言处理记忆化的实证研究
本文利用三种不同的 NLP 任务来验证长尾理论是否成立，实验结果表明，对于具有代表性的训练实例进行记忆比任意剔除训练实例更具有影响力，同时，还开发并实现了内部原因归因方法，具备较高程度的可信度。
PDF2 years ago
ACL评价归因分数中的逻辑陷阱
该论文系统地回顾了现有的评估归属分数的方法，并总结了这些方法中的逻辑陷阱，旨在提高人们对不准确评估归属分数的注意力，并建议停止关注在不可靠的评估系统下提高性能方面的努力，而是致力于减少逻辑陷阱的影响。
PDF3 years ago
AAAI使用相对分段传播分析比较梯度和敌对激活，解释深度神经网络
本文提出了一种新的归因方法 Relative Sectional Propagation（RSP）来对深度神经网络的输出进行全面分解，该方法可以克服激活神经元的非抑制性质，以更清晰的类别区分性和详细的激活神经元说明来分解 DNNs 的预测结
PDF4 years ago
AAAI自注意力归因：解释 Transformer 内部的信息交互
本文提出了一种自我注意力归因方法，通过对 BERT 等模型进行广泛的研究，发现这种方法能够用于识别重要的注意力头，构建注意力树，揭示变压器内的分层交互，以及可用作敌对模式实现非定向攻击。
PDF4 years ago
ICML神经网络归因：因果视角
提出了一种基于因果原理的神经网络归因方法，其中将神经网络架构视为结构因果模型，并提出了计算每个特征对输出的因果效应的方法，这种方法可以高效处理具有大量特征的数据，并在模拟和真实数据集上进行了实验验证。
PDF5 years ago
利用归因来解码化学神经网络模型中的数据集偏差
研究了如何用 attribution method 对深度神经网络模型进行解释，发现存在数据集偏差，进一步提出了一种测试数据集偏差的方法，为揭示药物作用机理提供了重要指导。
PDF6 years ago