AAAIDec, 2020

通过概率紧凑的损失函数和对数限制来提高对抗鲁棒性

PDF
TL;DR本研究提出了一种基于概率紧凑性的损失函数，称为 Probabilistically Compact (PC) 损失函数，采用 logit 限制来提高卷积神经网络对抗攻击的鲁棒性，减少误分的风险。该方法在大规模数据集上进行了白盒和黑盒攻击的实验，证明了该方法的有效性。
convolutional neural networksadversarial robustnessprobabilistically compact losslogit constraintsmisclassification
发现论文，激发创造
  • 对抗标签噪声的鲁棒学习中的逻辑回归剪辑

    本文提出 LogitClip 方法，在 logit 级别上进行损失约束，从而提高 CE 损失的鲁棒性，并减轻对带噪标签的样本过拟合问题，通过理论分析证明了 LogitClip 方法的噪声容忍能力和对通用鲁棒性的提升，实验结果表明，LogitClip 不仅在 CE 损失的噪声鲁棒性方面有显著改进，还广泛提高了流行的鲁棒性损失的泛化性能。

    Dec, 2022

  • 卷积原型学习的鲁棒分类

    本文提出了一种新的学习框架，称为卷积原型学习（CPL），以处理卷积神经网络（CNN）对开放世界识别问题的鲁棒性不足，其中采用了多个分类标准进行网络训练，提出了原型损失（PL）作为正则化以改善特征表示的内部类紧凑性，在多个数据集上实验表明 CPL 可以比传统 CNN 实现可比甚至更好的结果，并且 CPL 在拒绝和增量类别学习任务方面具有明显优势。

    May, 2018

  • 通过对抗性输出日志更新推进对抗鲁棒性

    在这项研究中，从理论的角度分析了成功的对抗攻击周围的逻辑差异，并提出了一种新的原则，即 Adversarial Logit Update (ALU)，用于推断对抗样本的标签。基于 ALU，引入了一种新的分类范式，利用预净化和后净化的逻辑差异来提高模型的对抗鲁棒性。经过广泛实验证明，所提出的解决方案在 CIFAR-10、CIFAR-100 和 tiny-ImageNet 数据集上相对于最先进的方法具有卓越的鲁棒性能。

    Aug, 2023

  • 通过凸优化实现具有约束条件的概率电路

    该研究通过将概率命题逻辑约束集成到概率电路所编码的分布中，提出了一种有效的方法来改善模型在数据稀缺或不完整情况下的性能，并在不损害模型适应性的同时，将机器学习公平性度量应用到模型中。

    Mar, 2024

  • 通过特征模式一致性约束提高对抗鲁棒性

    通过分析网络中的潜在特征行为，我们引入一种新颖而有效的特征模式一致性约束（FPCC）方法，以增强潜在特征维持正确特征模式的能力，从而使模型在面对对抗性示例时具有内在的对抗鲁棒性，超过最先进的模型。

    Jun, 2024

  • 赔率是否真的奇怪？绕过对抗性样本的统计检测

    本文提出了基于统计学检测方法的分类器适应方法，提高了检测性能；并且提出了 Logit Mimicry Attack 方法生成对抗样本，通过该方法可以避开统计学检测和分类器方法；最后，通过该文献，可以证明对抗样本的检测，统计学检测和分类器检测都不具备鲁棒性。

    Jul, 2019

  • 可学习的边界引导对抗训练

    本研究通过引入已训练的干净模型的分类边界来指导对抗训练，约束对抗性模型的 logits 与自然数据下的干净模型的 logits 相似，从而提高了模型的鲁棒性和自然数据的准确性。实验证明，该方法在 CIFAR-10、CIFAR-100 和 Tiny ImageNet 上具有新的最先进的鲁棒性，无需额外的真实或合成数据。

    Nov, 2020

  • 增加逻辑回归边缘的一对多损失切换以提高对抗性鲁棒性

    本文通过对 logit margins 的研究，提出了 SOVR 方法来提高 Adversarial training 的威胁鲁棒性并且在实验中展示了其效果。

    Jul, 2022

  • COLEP：基于概率电路的可保证鲁棒学习推理合规预测

    通过概率电路建立可靠的学习推理一致性预测框架（COLEP），致力于在有界对抗扰动存在的情况下提供准确和高效的预测覆盖度，证明 COLEP 在不同数据集上的鲁棒一致性预测能力并实现了一定的提升。

    Mar, 2024

  • 标签平滑和 Logit 压缩：对抗训练的替代方案？

    通过研究对抗训练提高分类器鲁棒性的机制，本研究表明这些机制可以有效地通过简单的正则化方法（包括标签平滑和对数挤压）及高斯噪声注入来模仿，并且在不使用对抗性示例的情况下，我们能够达到强大的对抗性鲁棒性 -- 通常超过对抗性训练所能达到的水平。

    Oct, 2019