explanation faithfulness | BriefGPT

关键词explanation faithfulness

搜索结果 - 6

提升视觉变换器的忠实度
通过引入 Faithful ViTs 和 Denoised Diffusion Smoothing 方法，本研究改进了 Vision Transformers 在解释准确性和对抗攻击下的鲁棒性，并在维持注意力解释性方面取得了更高的可靠性。
PDF7 months ago
语言模型并不总是说他们想的：链状思维提示中的不忠实解释
本研究发现 Large Language Models 的 Chain-of-Thought Reasoning （思维的串联过程）能够提供合理的解释，但有时会受到输入偏见的影响而误导我们对模型预测的真实原因的认识，这可能导致人们过度信任
PDFa year ago
EMNLP关于时间概念漂移对模型解释的影响
研究模型训练数据时间跨度与目标数据不同（异步设置）时，时序变化如何影响模型解释正确性，发现不同方法的特征归因存在互相矛盾的行为，需要更多的指标来评估后期解释正确性。
PDF2 years ago
使用去偏置的 CAM 缓解机器学习的系统误差并提供忠实的视觉解释
本文介绍了一种名为 Debiased-CAM 的多输入，多任务模型，通过辅助任务的训练，可以在不同偏差级别上恢复图像预测解释的忠实度，增强预测精度，并提供有用且准确的解释，以提高用户任务绩效。
PDF2 years ago
EMNLP享受显著性：基于单词显著性的 Transformer 模型的更好及忠实解释
本文探讨了如何提高基于预训练 Transformer 的模型的预测性能以及其对于预测理由的准确性，并提出了一种名为 SaLoss 的辅助损失函数，该函数利用 TextRank 方法从训练数据中提取信息以辅助 BERT 进行下游任务的微调，实
PDF3 years ago
ACL利用任务特定信息提高基于注意力解释的文本分类中的忠诚度
本文提出了一种新型的 TaSc 机制，学习任务特定的非上下文信息以扩展原始的 Attention 权重，通过评估测试，证明 TaSc 可以提高 Attention 解释在两种注意机制，五个编码器和五个文本分类数据集上的解释品质而不牺牲预测
PDF3 years ago