BriefGPT.xyz
Ask
alpha
关键词
interpretabilty
搜索结果 - 5
学习的视觉特征到文本解释
利用大型语言模型解释视觉模型的学习特征，通过训练神经网络建立图像分类器和语言模型之间的连接，生成大量的句子来解释分类器学习到的特征，并提取最频繁的词语，增强图像分类器的解释性和鲁棒性。
PDF
10 months ago
ACL
神经文本生成的显式句法指导
我们提出了一种基于句法树的语法引导生成模式，通过解码过程的两个部分:（1）对给定源句子中词汇化的句法上下文中的每个成分预测填充文本；（2）映射和扩展每个成分以构建下一级语法上下文以生成自然语言文本，并在重述生成和机器翻译上进行了实验。与自回
→
PDF
a year ago
ACL
COCKATIEL：一种用于 NLP 任务神经网络分类器解释的连续概念排名可解释元素的属性方法
本文介绍了 COCKATIEL 技术，它是一种后置的、基于概念的、模型无关的 XAI 技术，使用 NMF 和敏感性分析从 NLP 分类任务的神经网络模型的最后一层生成有意义的解释，无需牺牲模型准确性或训练新模型，并在单方面和多方面情感分析任
→
PDF
a year ago
ACL
透明可解释的注意力模型
本文研究基于 LSTM 的编码器的注意力机制的可解释性问题，发现现有的注意力机制不能提供清晰的解释，因为同步隐藏状态之间的高相关性使得注意权重缺乏了传达重要信息的能力。为了使注意力机制更为可信和可解释，作者提出一种基于多样性驱动的训练目标修
→
PDF
4 years ago
ICML
运用视觉分析解释预测机器学习模型
通过视觉分析技术，我们可以在不牺牲预测质量的情况下理解黑盒机器学习模型的推理过程，从而提高模型的可解释性。
PDF
8 years ago
Prev
Next