BriefGPT.xyz
大模型
Ask
alpha
关键词
model failures
搜索结果 - 5
尺度的重要性：基于小波域的归因方法解释模型对图像破坏的敏感性
介绍了一个新的方法 ——Wavelet sCale Attribution Method (WCAM), 在像素域到空间 - 比例域进行了属于度量，并解释了这些模型在图像失真上失败的原因，提高了用户对模型的信任。
PDF
a year ago
LLM2Loss: 利用语言模型进行可解释性模型诊断
利用大型语言模型，结合跨模态基础模型 CLIP，提取视觉输入的语义有意义的表示，并利用轻量诊断模型，对模型失败与偏差进行分析，从而了解黑盒模型的性能
PDF
a year ago
Angler：帮助机器翻译从业者优先考虑模型改进
通过采访苹果的 13 名机器学习从业者，研究人员发现他们构建小的有针对性的测试集来评估一个错误的性质、范围以及对用户的影响。研究者开发了一种交互式的可视化分析工具 ——Angler，以帮助从业者优先改进模型。研究发现，参与者通过分析定量摘要
→
PDF
a year ago
我的数学变形器在做什么？—— 可解释性和泛化性的三个结果
本文研究了矩阵求逆和特征值分解训练的 transformer 的失败案例和超出分布行为，发现错误的模型预测仍保留解决方案的深度数学特性，并且几乎所有的模型失败都可以归因于问题或解决方案的属性，还证明了仔细选择训练数据集可以加速训练，同时允许
→
PDF
2 years ago
深度 k 近邻：朝着自信、可解释和鲁棒的深度学习发展
本研究针对深度学习在对抗性环境下的鲁棒性和预测不可解释性等问题，通过将 k-NN 算法与深度学习结合，提出了一种名为 DkNN 的混合分类器，它可以为输入数据提供信心估计和人类可解释的预测解释。实验证明，DkNN 算法可以准确识别模型外部的
→
PDF
6 years ago
Prev
Next