interpretablity | BriefGPT - AI 论文速递

关键词interpretablity

搜索结果 - 8

深度学习解释和类激活图的集成特征分析
为了更深入了解深度学习模型提取的中间特征，我们提出了一种综合特征分析方法，通过特征分布分析和特征分解来探索模型对数据集的影响，并提供了一种常用强度标尺的分布信息，以解决当前 CAM 算法中缺失的信息，验证了该方法的可靠性和相对简洁性。
PDF3 days ago
神经网络想象的可视化
通过用循环神经网络 (RNN) 架构和解码器对网络的中间表示进行训练来可视化网络代表的环境状态，提出定量解释性指标并证明隐藏状态在简单任务上具有较高的可解释性，同时开发自编码器和对抗技术并展示其对解释性的好处。
PDF2 months ago
在类别嵌入空间中分析视觉 Transformer 用于图像分类
利用我们提出的方法，可以反向工程训练用于解决图像分类任务的 Vision Transformers，并投影到学习的类别嵌入空间以揭示网络建立预测的分类表示的过程。该方法还展示了图像令牌如何根据注意力机制和上下文信息发展类别特定的表示，以及自
PDF8 months ago
HalluAudio: 将频率幻觉化为概念进行少样本音频分类
本文针对少样本音频分类提出了一种新的方法，通过结构化的概念辅助实现高频和低频部分的理解和解释，进而利用特殊的音频格式提高性能。在 ESC-50 和 Kaggle18 数据集上的实验证明，本文提出的方法优于现有的基准方案，并具有解释性和潜在应
PDFa year ago
MM可扩展无线电资源管理的图神经网络：架构设计与理论分析
本篇论文提出通过使用图神经网络解决大规模射频资源管理问题，通过设计有效的神经网络结构和理论分析，证明了信息传递图神经网络不仅满足置换等变性，而且能够适用于大规模问题且效率高，进一步通过分布式优化算法分析了方法的性能和泛化性，提供解释性和理论
PDF4 years ago
ICMLDeepCoDA：用于组合健康数据的个性化解释性
通过提出 DeepCoDA 框架来扩展精度健康建模到高维组成数据，提供针对个体的可解释性，并维护 25 个真实数据集上的最先进性能，从而实现了针对高维组合性数据的个性化解释性。
PDF4 years ago
知识库和文本上的可解释问答
本文研究机器学习问题回答模型在知识库和文本文档结合的情况下的可解释性，使用 LIME 和 input perturbation 进行后处理解释方法，并比较其与自我解释的注意机制的效果，结果表明 input perturbation 提供比
PDF5 years ago
AI 解释的解释
该论文关注机器学习中可解释性问题，侧重于简化模型的构建及不同形式的解释与说明，并探讨了机器学习在处理该问题时的广义视角。
PDF6 years ago