post-hoc explanation methods | BriefGPT

关键词post-hoc explanation methods

搜索结果 - 6

COLING句法跨度偏好在事后解释异议中的作用
通过研究不同解释方法对词汇重要性的选择差异，我们发现选择不同类别的词汇会导致方法的分歧，而与其他方法和人类的最一致的方法更倾向于选择类似的语言偏好，通过在句法范围级别上比较可以减少方法间的差异，通过动态预估最重要的范围而不是依赖于固定的部分
PDF3 months ago
TextGenSHAP: 长文本生成中的可扩展后验解释
TextGenSHAP 是一个高效的事后解释方法，该方法结合了 LM 特定技术，通过减少处理时间、提供局部化重要词语和句子的能力以及增强选择性片段和最终回答的准确性，显著提高了大型语言模型的性能。
PDF7 months ago
DeViL: 将视觉特征解码为语言
我们提出了 DeViL 方法，该方法利用后续解释方法在深度神经网络决策过程中提供了自然语言描述，通过将视觉特征解码为语言，突显了不同层次的网络中视觉特征的归属位置，并在图像和文本之间进行转换，生成视觉网络不同层次的文本描述。
PDF10 months ago
ICML通过对抗训练获得可靠的图神经网络解释
本文探讨如何通过对图神经网络的敌对训练来提高模型的可解释性，通过一种新的度量标准来评估解释方法对模型学习到的表征的利用效果，并证明对于化学领域的应用，敌对训练可以更好地提取与领域相关的见解。
PDF3 years ago
ACL模型调试解释效用基准测试
本文提出需要为后续说明方法建立基准来评估其在完成任务中的效用，并列举了为解决调试文本分类器任务的基准所应具备的理想属性，并强调这种基准不仅有助于评估解释的有效性，还有助于评估其效率。
PDF3 years ago
如何选择一个解释器？一个基于应用的后续解释评估
提出了一种名为 XAI Test 的应用基准评估方法，旨在评估不同水平的信息提供对最终决策的影响，针对现实世界的欺诈检测任务进行了实验，并使用多种统计方法分析了三种热门解释器的影响。
PDF3 years ago