该论文提出了一种基于空间金字塔池化卷积神经网络(SPP-CNN)的网络鲁棒性预测框架,该框架可以有效地提高网络对恶意攻击的连通性和可控性的鲁棒性,具有更好的预测性能和泛化能力,相对于其它模型具有更低的时间消耗。
May, 2023
通过设计一个使用空间金字塔池化网络(SPP-net)的卷积神经网络(CNN)模型,调整现有的评估指标,重新设计攻击模式,引入适当的过滤规则,并将鲁棒性价值作为训练数据,本研究解决了网络连通性稳健性评估中的一些关键问题,同时发现评估网络特征的场景敏感性并需要进一步的关注和优化。
Aug, 2023
本文提出了一种新的学习框架,称为卷积原型学习(CPL),以处理卷积神经网络(CNN)对开放世界识别问题的鲁棒性不足,其中采用了多个分类标准进行网络训练,提出了原型损失(PL)作为正则化以改善特征表示的内部类紧凑性,在多个数据集上实验表明 CPL 可以比传统 CNN 实现可比甚至更好的结果,并且 CPL 在拒绝和增量类别学习任务方面具有明显优势。
May, 2018
提出了一个可用于卷积神经网络的一般且高效的框架 CNN-Cert 以证明鲁棒性,它通过利用卷积层的特殊结构比现有算法快 17 倍到 11 倍,并且在获得相似或更好的证明上限和速度方面超越了最先进的算法。
Nov, 2018
近年来,对神经网络的稳健性评估引起了极大关注,深度学习的稳健性问题特别突出,研究人员致力于在图像识别任务中评估稳健性,在此综述中,我们对神经网络评估中敌对稳健性和扰动稳健性进行了详细研究,分析当前研究和标准,提供了图像识别中稳健性评估的广泛概述,分析了概念、度量标准和评估方法,研究了用于度量图像扰动程度的扰动度量和范围表示,以及特定于分类模型稳健性条件的稳健度量,还讨论了现有方法的优势和局限性,并提供了一些未来研究的潜在方向。
Apr, 2024
本文提出了一种新的、通用的韧性学习方法,通过图转换器完成对多方面的可控性鲁棒性学习和联通性鲁棒性学习任务,并通过大量实验证明其高精度和高速,具有强大的泛化能力和可转移的特征学习模块。
Jun, 2023
通过分析网络中的潜在特征行为,我们引入一种新颖而有效的特征模式一致性约束(FPCC)方法,以增强潜在特征维持正确特征模式的能力,从而使模型在面对对抗性示例时具有内在的对抗鲁棒性,超过最先进的模型。
Jun, 2024
本文提出了第一种证明(非)稳健性的图卷积网络方法,该方法能够在考虑特定攻击模型的情况下,保证节点属性的 L0 - 范围内的扰动。最后,我们还提出了一种鲁棒的半监督训练过程,通过实验证明我们的方法证明了图神经网络的鲁棒性,对预测精度的影响最小。
Jun, 2019
卷积神经网络在大量标记数据可用时表现出广泛的适用性,然而近期的研究为更大规模的模型是否能够推广到受控训练和测试集之外的数据提出了质疑。本文研究了 ResNet 模型中隐藏层数量对 MNIST、CIFAR10 和 CIFAR100 数据集的影响,并通过使用特制样本逼近期望的失败率来测试模型的预测能力和计算成本,发现更大规模的模型在提高对抗鲁棒性方面并没有显著帮助,但训练成本却显著增加。
Jan, 2024
通过实证研究 100 个 DNN 模型和 25 种指标,发现 DNN 的测试覆盖率与鲁棒性之间的相关性有限,即提高测试覆盖率并不能帮助提高鲁棒性。这个研究提出的数据集和实现也可以作为测试 DNN 的基准。
Nov, 2019