- 定制制作:通过自主学习的视频排序发现单调时间变化
我们的目标是发现和定位图像序列中的单调时间变化。为了实现这一目标,我们利用了一个简单的代理任务,即对乱序图像序列进行排序,通过 ` 时间 ' 作为监督信号,因为只有与时间单调变化的改变才能产生正确的排序。我们还引入了一种灵活的基于 Tran - 挑战黑盒子:农林业 CNN 应用的属性图全面评估
通过对农业和林业中神经网络在肥料处理分类和木材鉴别中的可解释性进行研究,我们发现目前最先进的归因图方法的实用性存在重大问题。这些归因图经常无法准确突出关键特征,并且与领域专家认为重要的特征经常不一致,这对决策过程的理解提出了重要问题。我们的 - AAAI保持信念:基于案例推理的卷积神经网络中的忠实解释
通过案例推理的设计和使用神经网络进行决策关键任务,本论文提出了 ProtoPNet 方法来解决解释神经网络预测的问题,并通过引入 Shapley values 来提取忠实的解释。该方法在多个数据集和多种网络结构上的实验证明了其有效性。
- 使用归因图进行模型训练
本文研究表明利用归因映射来训练神经网络能够提高模型的正则化从而提高性能,并介绍了一种名为 Challenger 的模块,该模块利用输入模式的解释能力来操纵重要的输入模式,从而提高模型性能。
- CVPROccAM's Laser: 用于 LiDAR 数据上的基于遮挡的 3D 目标探测器的属性解释地图
本研究提出了一种方法,可以在不需要先前的体系结构知识或访问模型内部参数的情况下,为检测到的对象生成归因图,以更好地理解这些模型的行为,同时比较了最近 3D 目标检测体系结构的指定映射,为解释性提供了深刻的洞察。
- 为正确的原因上当:通过教师引导的课程学习方法提高对抗性鲁棒性
通过限制像素扰动以及使用更准确的物体属性图,提出了一种非迭代的训练方法,实现了在 CIFAR-10、CIFAR-100 和 TinyImageNet 数据集上比现有的 AT 方法更高的鲁棒性,在对抗攻击和自然精度方面优于其他方法。
- 评估图像分类中的偏差
本研究通过使用归因地图的方法,系统性地揭示数据偏差,从而证明了某些归因地图技术比其他技术更好地凸显了数据中的偏差,并且度量可以支持发现偏差。
- 面向属性鲁棒性的通用框架 FAR
该研究提出一种名称为 FAR 的新型范式,用于通过在输入的局部领域内最小化属性映射的最大差异来训练模型的鲁棒属性。通过新模型 AAT 和 AdvAAT 的实验表明,所提出的方法在对抗干扰下都更有稳健性。
- IS-CAM: 基于公理的解释的集成 Score-CAM
提出 IS-CAM (Integrated Score-CAM) 方法来增加卷积神经网络的可解释性,通过将积分操作引入 Score-CAM 管道来实现更加清晰的定位图,并在 ILSVRC 2012 验证数据集的 2000 张随机选择的图像上 - 黑盒分类器的信息论视觉解释
该研究从信息熵角度试图解释任意黑匣子分类器的预测结果,比现有方法提高了量化评价的正确性,通过提供两个信息熵评估指标(信息增益图和逐点互信息图)来分别提供类别无关和类别特定的结果。作者还对 ImageNet 分类器进行了详细分析,并提供了在线 - ICLR诊断泛化不良时,显著性可能是一个误导
该论文研究利用辅助标签(即人工绘制的掩模)训练模型以在预测任务中忽略分散注意力的外部特征,以提高模型的泛化性能,同时也探讨了模型泛化性能不佳的根本原因以及采用掩模在 “说明性预测” 任务中的实用性问题。
- 测试卷积神经网络在基于 MRI 的阿尔茨海默病分类中的归因方法的稳健性
研究了四种归因方法在阿尔茨海默病分类任务中的有效性,并发现某些广泛使用的归因方法产生高度不一致的结果。