该论文提出了针对流行的深度神经网络结构,包括 VGG、ResNet、EfficientNet、DenseNets 和 Relation Networks 的模型规范化方法,并建立了一个 XAI 评价框架,用于量化和比较模型规范化对各种 XAI 方法在图像分类任务和视觉问答中的影响,同时演示如何应用该评价框架进行超参数搜索,以优化解释质量。
Nov, 2022
本文提出了基于对称性神经网络的一种替代方案,通过学习生成数据的规范表示来避免架构约束。并为多个感兴趣的组提供了实现它们的明确方法,证明了学习神经网络来执行规范化比使用预定义启发式方法更好,并且该方法在实践中实现了出色的性能表现。
通过引入新方法实现了深度学习中与架构无关的等变性,比传统的等变架构方法和现有的与架构无关的方法更高效。该方法利用对比学习以及非等变网络来实现典范化,提供了更多对典范化网络选择的灵活性,并且在预训练模型的等变性以及典范化过程的加速方面实现了显著优势,速度提高了 2 倍。
May, 2024
该研究论文旨在提出一种强健的归因训练策略来提高深度神经网络的归因鲁棒性,针对近年来的研究表明,尽管这些模型被给予两张非常相似的图像,但其产生的归因图可能会有很大的不同,从而引发了对其可信度的质疑。这个方法通过引入保护模型归因图免受攻击的两个新的正则器来提高归因鲁棒性,并在多个数据集上超越了最先进的归因鲁棒性方法。
Dec, 2020
利用框架取代方法来实现神经网络的对称性,引入了规范化角度,设计了对特征向量更优且理论上和实践中都更优的新框架,揭示了现有方法之间的等价性。
本研究旨在检验特征归因法在不同深度学习架构模型间的泛化能力,以及探索归一化的特征解释方法在提高机器学习应用的可解释性和信任度方面的潜力。
Jul, 2023
通过使用规范化网络和数据相关的先验知识,可以使大型预训练模型实现等变性,提高计算效率并增强对数据旋转等确定性变换的鲁棒性。
Oct, 2023
使用基于归因的输入抽样技术在模型的多个层面收集可视化映射并对其进行聚合,最终实现了对卷积神经网络解释的精细和完整的解释,同时提出了一种基于卷积神经网络模型的层选择策略。实验结果表明,该方法在解释准确度和视觉质量方面能够满足或超越现有方法,且稳定性良好。
Oct, 2020
本研究探讨了模型指导方法在 PASCAL VOC 2007 和 MS COCO 2014 数据集上的有效性以及提出了一种新的能量损失方法,证实了模型指导方法可以通过正则化模型的解释,集中于正确的特征,提高模型性能。
Mar, 2023
通过案例推理的设计和使用神经网络进行决策关键任务,本论文提出了 ProtoPNet 方法来解决解释神经网络预测的问题,并通过引入 Shapley values 来提取忠实的解释。该方法在多个数据集和多种网络结构上的实验证明了其有效性。
Dec, 2023