本研究针对基于深度学习的推荐系统进行了第一次系统性研究,提出了一个注入可控用户的数据污染攻击模型并发现此攻击在小、大规模数据集上都表现出色,同时提出多种优化方法用于解决此非凸整数编程问题。
Jan, 2021
本研究利用影响函数解决基于矩阵分解的推荐系统数据污染的问题,并通过优化问题构造一定数量的假用户,随后迫使推荐系统为普通用户推荐特定物品。该方法被证明是高效的,优于现有方法。
Feb, 2020
该研究探讨了在联邦推荐系统中执行促销攻击的策略,引入了一种无需额外信息的新型假用户基础的中毒攻击,称为 PoisonFRS,该攻击能有效地促进攻击者选择的目标物品并且在潜在空间中无法区分真实用户和虚假用户的模型更新。
Feb, 2024
该研究报告通过文献综述,提供了关于推荐系统中毒攻击和对策的新分类法,并对文献中描述的 30 多种攻击进行了整理。此外,对于检测和 / 或预防毒攻击的 40 多种对策进行了评估,评估了它们对特定类型攻击的有效性。该综述为保护推荐系统抵御毒攻击提供了一个参考点,并对领域中的未解决问题和未来研究方向进行了讨论。
Apr, 2024
本篇论文研究了针对联邦学习场景下的基于深度学习的推荐模型的攻击方法,并提出了两种生成毒瘤梯度的策略以有效地破坏目标模型。
Apr, 2022
为了针对去中心化推荐系统中的局部模型投毒攻击,本文提出了一种系统性的方法来利用数据驱动推荐系统中固有的流行度偏差,实现针对特定项目的推广攻击。通过上传精心制作的梯度,在模型更新期间通过少数恶意用户有效地增加目标(不受欢迎)项目在结果联合推荐系统中的曝光率,而不会损害被毒害推荐器的准确性,现有的防御措施并不足够有效。
Oct, 2021
介绍了一种针对协同过滤系统的数据污染攻击,并提出了对两种流行的矩阵分解协同过滤算法的有效解决方案,同时在实际数据上测试了所提出算法的有效性和可能的防御策略。
Aug, 2016
该论文提出了一种名为 LOKI 的实用数据攻击方法,使用强化学习算法训练攻击代理生成用户行为样本进行数据中毒,在现实世界的限制下,代理与推荐模拟器交互并利用对推荐结果的影响函数进行样本注射来污染目标系统。实验证明,LOKI 攻击性能优于现有方法。
Apr, 2020
研究了推荐系统中存在的一种被称为 “对抗性注入攻击” 的问题,攻击者通过注入虚假的用户行为来实现其目的,设计了一种生成虚假用户的优化问题的精确解决方案,并探讨了攻击传递性及其限制,在真实数据集上进行了实验,为防御这种可能出现的攻击提供了有用的方法。
Aug, 2020
该论文介绍了一种针对联邦推荐系统的模型毒化攻击,利用公共交互信息近似用户特征向量,并通过精心设计的方式控制恶意用户上传毒化梯度,提高目标项的曝光率。实验结果表明,FedRecAttack 在 3% 的恶意用户和 1% 的公共交互情况下仍然非常有效,揭示了联邦推荐系统相比传统推荐系统更易受到攻击的事实。