May, 2022

可解释的对抗性鲁棒卷积神经网络有多好？

PDF
TL;DR本文使用 9 种特征重要性方法和 12 种各种架构和培训算法的 ImageNet CNN 进行了第一次大规模评估，并发现了其中的一些重要洞察和建议，例如，GradCAM 和 RISE 是最佳方法，插入和删除分别对应于普通和稳健模型。
convolutional neural networkstest-set accuracyout-of-distribution accuracyexplainabilityfeature-importance methods
发现论文，激发创造
  • 稳健性分析解释的评估和方法

    本文提出一种基于鲁棒性分析的特征解释新的评估标准，通过针对我们提出的评估标准进行优化，获得了松散且必要的解释和可以将当前预测移动到目标类的特征集。我们通过多领域实验和用户研究验证了我们评估标准和解释的有用性。

    May, 2020

  • 深度神经网络的基于梯度的解释方法 —— 鲁棒性解释指南

    本文介绍了解释深度神经网络的渐变解释性方法，讨论了这些方法如何评估其鲁棒性以及鲁棒性在产生有意义的解释方面的作用，并探讨了渐变方法的局限性和选择解释方法之前应该考虑的最佳实践和属性。

    Jul, 2021

  • 模型鲁棒性的奇异值视角

    本文研究探讨卷积神经网络在人工智能领域的应用，并且探讨该类网络存在的问题和局限性，提出使用奇异值分解方法可以分析卷积神经网络中涉及到的非人类因素，从而对其产生作用的原因展开研究。同时提出了一种新的特征分配方法，建立了卷积神经网络的理论框架。

    Dec, 2020

  • 稳健性与公平性可能相互矛盾：基于类别准确性的实证研究

    本文通过经验研究，在对抗训练的模型中发现了分类的精度和稳健性存在类间差异，包括在通常的训练模型中也存在差异。同时，本文还探讨了解决这种类间差异的可能技术和方法。

    Oct, 2020

  • 准确性和鲁棒性是否相关？

    通过利用深度卷积神经网络生成对抗性样本，然后比较不同的生成技术在产生图像质量和测试机器学习模型鲁棒性方面的差异，最后在跨模型对抗迁移上进行了大规模实验，研究结果表明对抗性样本在相似的网络拓扑间是可传递的，并且更好的机器学习模型更不容易受到对抗性样本的攻击。

    Oct, 2016

  • 理解图像分类决策的对抗解释及改进神经网络的鲁棒性

    本文研究神经网络在医疗影像和欺诈检测等敏感领域应用时面临的鲁棒性问题和对抗攻击，并提出一种受 Lipschitz 约束启发的正则化技术以提高神经网络的抗干扰能力。在 ImageNet 分类任务中，本文设计的神经网络的准确性和鲁棒性面积（ARA）为 0.0053，是之前最先进技术的 2.4 倍，拓展了理解神经网络决策的重要方向。

    Jun, 2019

  • 调查和揭示卷积神经网络对对抗扰动的特征级漏洞

    通过对深度学习模型的不同层进行敌对性扰动攻击验证，研究表明浅层的通道组合对模型的干扰较大，在不同攻击类型中具有共享的易受攻击通道组合，而不同攻击对隐藏表示的影响存在差异且与卷积核大小呈正相关，以此为基础为未来应用开发高效的应对性防御机制奠定技术基础。

    May, 2024

  • 通过对抗鲁棒优化学习可解释的特征

    本文提出了一种改进神经网络分类器特征可解释性的方法，将对抗鲁棒性引入模型训练过程，并通过评估真实边界框和可视化方法量化特征可解释性，在 NIH ChestX-ray14 数据集上进行了实验，并展示了对抗鲁棒优化方法在定量和定性上提高了特征可解释性。

    May, 2019

  • 计算机视觉中鲁棒性和可解释模型的深度学习

    最近在机器学习和深度学习研究领域的重大突破为利用海量数据和优化包含数百万参数的庞大模型以获得图像处理方面的准确网络提供了出色的工具，进而为在自动化和人工智能行业中使用人工智能打开了巨大的机遇。然而，随着越来越多的模型在实践中得到部署和使用，也出现了许多挑战。本文介绍了解决在实践中使用机器学习和深度学习所面临的鲁棒性和可解释性挑战的多种方法。

    Mar, 2024

  • 内外分布上的对抗鲁棒性改进可解释性

    本文提出基于 RATIO 的 Robustness via Adversarial Training on In- and Out-distribution 的训练方法，可用于提高神经网络在图像分类方面的稳健性和可靠性，同时维持更高的干净精度水平。

    Mar, 2020