May, 2018

卷积原型学习的鲁棒分类

PDF
TL;DR本文提出了一种新的学习框架，称为卷积原型学习（CPL），以处理卷积神经网络（CNN）对开放世界识别问题的鲁棒性不足，其中采用了多个分类标准进行网络训练，提出了原型损失（PL）作为正则化以改善特征表示的内部类紧凑性，在多个数据集上实验表明 CPL 可以比传统 CNN 实现可比甚至更好的结果，并且 CPL 在拒绝和增量类别学习任务方面具有明显优势。
convolutional neural networksadversarial examplessoftmax layerconvolutional prototype learningopen world recognition
发现论文，激发创造
  • 监督对比原型学习：无数据增强的强鲁棒神经网络

    通过引入 supervised contrastive prototyping learning 框架，可以提高 DNN 模型的鲁棒性和学习 nuance 不变性表示，在样本高效、不需要 sample mining 的情况下可以替代 softmax 分类器头，实现更好的干扰和样本鲁棒性。

    Nov, 2022

  • 卷积原型学习用于零样本识别

    本文提出了一种卷积原型学习（CPL）框架，用于零样本识别。通过在任务级别假设分布一致性，CPL 能够平稳地转移知识以识别未见样本。在每个任务内部，通过基于距离的训练机制学习区分性视觉原型。因此，我们可以在视觉空间而不是语义空间中进行识别。

    Oct, 2019

  • 基于卷积神经网络的网络鲁棒性预测学习方法

    使用卷积神经网络提取特征表示的学习方法可以更快、更准确地预测网络的稳健性，并提供一个好的指标来度量其连通性鲁棒性。

    Mar, 2022

  • CNN-Cert: 一种有效的卷积神经网络稳健性认证框架

    提出了一个可用于卷积神经网络的一般且高效的框架 CNN-Cert 以证明鲁棒性，它通过利用卷积层的特殊结构比现有算法快 17 倍到 11 倍，并且在获得相似或更好的证明上限和速度方面超越了最先进的算法。

    Nov, 2018

  • 通过特征模式一致性约束提高对抗鲁棒性

    通过分析网络中的潜在特征行为，我们引入一种新颖而有效的特征模式一致性约束（FPCC）方法，以增强潜在特征维持正确特征模式的能力，从而使模型在面对对抗性示例时具有内在的对抗鲁棒性，超过最先进的模型。

    Jun, 2024

  • 通过概率紧凑的损失函数和对数限制来提高对抗鲁棒性

    本研究提出了一种基于概率紧凑性的损失函数，称为 Probabilistically Compact (PC) 损失函数，采用 logit 限制来提高卷积神经网络对抗攻击的鲁棒性，减少误分的风险。该方法在大规模数据集上进行了白盒和黑盒攻击的实验，证明了该方法的有效性。

    Dec, 2020

  • 卷积神经网络的强健性和可迁移性研究

    对现代深度卷积网络（CNN）未能在分布漂移下推广的问题进行了研究，并探究了预备数据量、模型规模和数据处理流程对迁移性能的影响，发现增加训练集和模型大小显著提高了分布偏移鲁棒性，同时是非常简单的预处理，如修改图像分辨率在某些情况下可以显著缓解鲁棒性问题。最后，我们提出了一个新的综合数据集 SI-Score 进行了系统的分析。

    Jul, 2020

  • 卷积核网络

    通过用一种新型卷积神经网络（CNN）来编码不变性的再生核，本文解决了视觉识别中旨在设计对特定变换具有不变性的图像表示的问题， 其中与传统方法不同的是，我们的网络学习在训练数据上逼近核特征映射，从而带来了多个优势，包括获得具有不变性的简单神经网络体系结构，实现与更复杂 CNNs 相似的准确度，以及抵抗过拟合等。

    Jun, 2014

  • NLNL: 噪声标签的负学习

    本文提出了一种名为 “SelNLPL” 的优化 CNNs 训练方法，在使用负训练法（NL）的基础上，选择性地使用正训练法（PL）来训练低噪声数据，从而实现对有噪声数据分类的准确性优化。

    Aug, 2019

  • 通过惩罚局部预测能力学习稳健的全局表示

    本文提出了一种训练且具有鲁棒性的卷积神经网络的方法，通过惩罚较早层所学习的局部表示的预测能力，迫使网络丢弃色彩和纹理等可从局部感受野中获取的预测信号，并依靠图像的全局结构。在一系列综合性和基准领域适应任务中，我们的方法使泛化能力得到了改善。我们还引入了一个新的数据集 ImageNet-Sketch，以评估跨域传输。

    May, 2019