explanation techniques | BriefGPT

关键词explanation techniques

搜索结果 - 7

大型语言模型是事后解释器吗？
利用大型语言模型和上下文学习，本研究提出了一种新的解释框架，展示了语言模型在解释其他预测模型方面的有效性，并通过实验证明了其与现有解释技术相媲美的性能，从而在可解释的人工智能领域开辟了新的研究前沿。
PDF9 months ago
大型语言模型的可解释性概述
对大型语言模型的解释技术进行分类和总结，并讨论了这些技术在训练范式、生成局部解释和全局解释方面的应用以及评估指标、调试模型和提高性能的挑战和机会。
PDF10 months ago
亲爱的 XAI 社区，我们需要谈论！当前 XAI 研究中的根本误解
本文旨在突出和讨论当前 XAI 研究中的概念、伦理或方法论基础不牢的问题及其他误解，同时提出了使 XAI 成为更有实质性研究领域的步骤。
PDFa year ago
ICLR解释性视觉能为用户带来好处吗？用户研究、基线和数据集
研究比较了针对图像分类模型的基线、概念和反事实解释技术发现，反事实解释技术使用户能更准确地识别某些属性，并强调了衡量用户对模型偏差性推理能力的重要性。
PDF2 years ago
KDD使用决策路径评估学习排名模型的本地无模型相关解释
本篇论文旨在实现一种系统评估 LTR 模型解释技术的方法，即通过决策树焕发的 ground truth 特征重要性得分，和这些解释技术产生的特征重要性得分进行直接比较，以此来比较 MQ2008 数据集上的 LTR 模型分别采用决策树和梯度提
PDF2 years ago
ICML对比图神经网络解释
本文提出了一种基于 Distribution Compliant Explanation（DCE）的 Contrastive GNN Explanation（CoGE）技术，该技术适用于 Graph Neural Networks，并且可以
PDF4 years ago
LIME 和 SHAP 欺骗：对事后解释方法的对抗攻击
本文提出一种新型的脚手架技术可以隐藏任何给定分类器的偏见，并演示了该技术如何可以欺骗常见的解释技术如 LIME 和 SHAP 生成无害的解释而不反映潜在的偏见。
PDF5 years ago