AAAIDec, 2023

Few-shot 学习受到背门攻击的影响吗？

PDF
TL;DR本文研究了 Few-shot Learning（FSL）领域中的后门攻击问题，发现 FSL 仍然存在脆弱性，并提出了一种名为 Few-shot Learning Backdoor Attack（FLBA）的新方法，该方法通过生成触发器并使用两种类型的不可察觉扰动使攻击更具隐蔽性，并在 FSL 任务中取得了高攻击成功率，同时保持了准确性和隐蔽性。
few-shot learningbackdoor attackstrigger featuresimperceptible perturbationsecurity
发现论文，激发创造
  • FTA：隐蔽且强大的开关门背门攻击及其对联邦学习的灵活触发

    我们提出了一种新的灵活的触发器方法，利用生成触发器函数来实施偷偷摸摸的反向门攻击，以此来绕过联邦学习的防御机制。本文通过在真实数据集上进行的广泛实验验证了我们的攻击策略在分布式学习框架中的有效性和隐蔽性。

    Aug, 2023

  • 通过无需数据生成触发器来保护联邦学习防止后门攻击

    通过学习后门攻击的两个特征，即触发器比正常知识学习得更快，触发器模式对图像分类的影响比正常类模式更大，我们的方法通过生成具有新学习知识的图像，并通过评估这些生成的图像的效果来过滤触发器图像，以确保更新的全局模型是良性的，实验结果表明，我们的方法可以抵御几乎所有现有类型的后门攻击，并在 IID 和 non-IID 场景下优于所有七种最先进的防御方法，尤其是在 80％的恶意客户端存在时依旧能够成功抵御后门攻击。

    Aug, 2023

  • 技术报告：基于全体群体知识对齐协助后门联邦学习

    本文提出一种利用联邦学习（FL）模型信息泄漏强化早期注入的单次后门攻击的方法，即在 FL 模型收敛时注入后门攻击。作者提出了一个两阶段后门攻击，通过预备阶段对本地数据进行分布推断攻击并基于推断结果制定本地数据集，以及在注入后门攻击时根据 FL 模型信息泄漏进行调整，提高攻击的持久性和成功率。在 MNIST 数据集上进行的广泛实验表明，该方法不仅能够绕过防御机制，而且在成功率和持久性方面都比现有的后门攻击更具优势。

    Jul, 2022

  • 攻击尾部：是的，你真的可以破解联邦学习

    通过理论分析和实验，研究在分布式机器学习领域，如何有效检测和保护模型免受恶意注入的后门影响。

    Jul, 2020

  • 视觉目标追踪中的少样本后门攻击

    本文论述了在视觉目标跟踪方面存在的安全威胁，提出了一个简单而有效的少样本反向胁迫攻击方法，通过优化两个交替的损失函数嵌入后门，研究表明，该攻击即使出现在少数帧中也能显著降低跟踪器的性能，并且对潜在的防御措施具有抵抗力。

    Jan, 2022

  • 自监督学习的后门攻击

    该研究探讨了对于基于无监督大规模未标注数据的自监督学习方法的后门攻击，提出了通过知识蒸馏的防御方法，并在实验中取得了成功。

    May, 2021

  • 连续训练下的联邦后门攻击防御

    通过训练两个模型，其中一个不带任何防御机制，另一个结合恶意客户过滤和提前停止以控制攻击成功率，我们提出了防御联邦学习背门攻击的框架 ——“阴影学习”。该框架在理论上受到了证明，并且实验证明了它显著改善了现有的防御措施。

    May, 2022

  • 关于联邦学习后门防御漏洞的研究

    本文重点研究联邦学习（FL）中后门攻击的防御方法，提出一种新的联邦后门攻击框架，通过直接修改局部模型权重注入后门触发器，并与客户端模型联合优化，从而更加单独和隐蔽地绕过现有防御。实证研究表明最近的三大类联邦后门防御机制存在一些缺陷，我们对此提出了建议。

    Jan, 2023

  • 干预式少样本学习

    通过构建因果模型，提出了一种新的干预式 Few-Shot 学习范式，与现有的 Fine-tuning 和 Meta-learning 等方法正交，可以显著提高它们的性能，在多个数据集上均取得新的 1-/5-shot 最新成果。

    Sep, 2020

  • 用触发优化的数据毒化在联邦学习中隐藏后门模型更新

    DPOT 是一种基于数据污染的联邦学习后门攻击策略，通过动态构建后门目标并优化后门触发器，使后门数据对模型更新的影响最小化，有效地破坏了最先进的防御机制并在各种数据集上优于现有的后门攻击技术。

    May, 2024