Nov, 2023

PACOL:针对连续学习者的攻击

TL;DR持续学习系统容易受到恶意误导,本文提出了一种新的持续学习过程中的数据污染攻击类别,命名为 PACOL,通过实验展示了标签翻转和新的敌对污染攻击(PACOL)对持续学习系统的影响,评估了基于生成重放和正则化的持续学习方法对攻击方法的脆弱性,并讨论了攻击的隐蔽性和防御方法的有效性。