Sep, 2024

利用监督毒性脆弱性增强自监督防御

HTML
PDF
TL;DR本研究解决了自监督学习在面对毒化数据时表现不佳的问题，提出了一种名为VESPR的新防御策略。通过在监督学习中引入对抗训练，VESPR成功地模糊化了毒化特征，显著提高了模型的鲁棒性，验证了其在七种常见毒化技术下的优越性能，平均提高了ImageNet-100测试准确率9%。
发现论文，激发创造
  • 毒药为疗法：在深度神经网络中检测和中和可变大小的后门攻击

    提出了一种有效的对抗性样本（backdoor）防御方法，它由多个子模块组成，能够在检测到backdoor的同时进行筛选清洗，并通过提取毒信号的方式中和攻击。该防御方法在CIFAR10数据集上针对9种不同的目标基类配对均表现出较好的效果。

    Nov, 2019

  • 安全第一：通过对抗训练防范欺骗性对手

    本文证明了敌对训练可以作为防御欺骗攻击的可靠方法，并通过实验验证了其鲁棒性。敌对训练在自然环境中抵御欺骗攻击的机制是通过避免学习器过度依赖非鲁棒特征。

    Feb, 2021

  • 对比学习的中毒和后门攻击

    研究指出多模态对比学习方法训练在无噪声且未分类的数据集上可能导致后门和毒化攻击成为重要的威胁。通过少量的毒化数据，可以影响模型分类测试图片的准确性，这显然会影响训练数据集的质量。

    Jun, 2021

  • 野外模式再載: 機器學習對抗訓練數據毒化安全綜述

    本文对过去15年来关于机器学习中中毒攻击和防御的100多篇论文进行了全面的系统化概括和批判性点评，主要关注于视觉应用程序，并讨论了当前的限制和开放性的研究问题。

    May, 2022

  • PoisonedEncoder: 对对比学习的未标记预训练数据进行污染

    本文提出一种数据污染攻击——PoisonedEncoder，该攻击通过在无标签的预训练数据中注入精心制作的污染输入，为多目标下游任务构建基于受攻击者选择的中毒编码器的下游分类器，使得这些分类器将受攻击者选择的任意干净输入分类为受攻击者选择的任意类别，同时我们提出了一种针对对比度学习的方法来近似求解该数据污染攻击问题，并评估了五种针对PoisonedEncoder的防御策略。

    May, 2022

  • 数据污染攻击中的不可检测性与鲁棒性：选择你的毒药

    本文研究了深度图像分类模型中毒的问题，提出了两种防御方案进行后处理，利用少量的受信任的图像标签对修复模型，防御效果优于现有的方案，并指出了检测/鲁棒性权衡关系和攻击的适应能力问题。

    May, 2023

  • 预训练特征提取器的不可区分数据毒化攻击

    在这篇论文中，我们研究了预训练特征提取器应用于后续任务时的数据污染攻击，主要包括输入空间攻击和特征目标攻击两种类型，实验结果表明后者对迁移学习更具威胁性。

    Feb, 2024

  • 数据中毒了吗？防御神经网络数据中毒攻击

    本研究探讨了对洁净标签下的中毒攻击的防御方法，并提出了一种在迁移学习环境中检测和过滤被中毒数据点的新方法，通过实验分析表明，我们的方法能够在特征向量空间中有效区分有效的中毒点和干净点，并通过多个架构、数据集和中毒预算的比较，充分评估了我们的方法，结果显示我们的方案在所有实验设置中均优于现有方法的防御率和最终训练模型性能。

    Mar, 2024

  • PureEBM: 通过能量模型中间运行动力学实现的通用毒素净化

    数据污染攻击对机器学习模型的完整性构成重大威胁，本研究引入了一种通用数据净化方法，通过应用一个基于能量的模型（EBM）的普适性随机预处理步骤来保护自然训练的分类器免受恶意攻击。

    May, 2024

  • 药剂：走向毒物遗忘

    通过引入新的抗干扰方法和寻找适合的超参数来解决恶意攻击和毒数据从已训练模型中删除的问题，我们的方法在CIFAR10和CIFAR100数据集上检验后，毒数据去除效果显著，修复了93.72%的毒样本，相较于全模型重新训练方法（40.68%）和Selective Synaptic Dampening方法（83.41%），我们的方法降低了模型准确率丧失的程度。

    Jun, 2024