针对下一项推荐的实用数据污染攻击
本研究针对基于深度学习的推荐系统进行了第一次系统性研究,提出了一个注入可控用户的数据污染攻击模型并发现此攻击在小、大规模数据集上都表现出色,同时提出多种优化方法用于解决此非凸整数编程问题。
Jan, 2021
该研究系统地研究了针对基于图的推荐系统的攻击方法,将攻击行为转化为一个最优化问题,并提出可行的技术解决方案,针对广泛部署的基于图的推荐系统,攻击效果优于现有攻击方式,攻击效果显著。
Sep, 2018
本研究利用影响函数解决基于矩阵分解的推荐系统数据污染的问题,并通过优化问题构造一定数量的假用户,随后迫使推荐系统为普通用户推荐特定物品。该方法被证明是高效的,优于现有方法。
Feb, 2020
为了针对去中心化推荐系统中的局部模型投毒攻击,本文提出了一种系统性的方法来利用数据驱动推荐系统中固有的流行度偏差,实现针对特定项目的推广攻击。通过上传精心制作的梯度,在模型更新期间通过少数恶意用户有效地增加目标(不受欢迎)项目在结果联合推荐系统中的曝光率,而不会损害被毒害推荐器的准确性,现有的防御措施并不足够有效。
Oct, 2021
该研究报告通过文献综述,提供了关于推荐系统中毒攻击和对策的新分类法,并对文献中描述的 30 多种攻击进行了整理。此外,对于检测和 / 或预防毒攻击的 40 多种对策进行了评估,评估了它们对特定类型攻击的有效性。该综述为保护推荐系统抵御毒攻击提供了一个参考点,并对领域中的未解决问题和未来研究方向进行了讨论。
Apr, 2024
该研究探讨了在联邦推荐系统中执行促销攻击的策略,引入了一种无需额外信息的新型假用户基础的中毒攻击,称为 PoisonFRS,该攻击能有效地促进攻击者选择的目标物品并且在潜在空间中无法区分真实用户和虚假用户的模型更新。
Feb, 2024
本文研究在线学习中的数据污染攻击,将其形式化为一类随机最优控制问题,并采用模型预测控制和深度强化学习方法解决。实验验证了该控制方法在监督学习和无监督学习任务中生成接近最优的攻击的有效性。
Mar, 2019
介绍了一种针对协同过滤系统的数据污染攻击,并提出了对两种流行的矩阵分解协同过滤算法的有效解决方案,同时在实际数据上测试了所提出算法的有效性和可能的防御策略。
Aug, 2016
研究了推荐系统中存在的一种被称为 “对抗性注入攻击” 的问题,攻击者通过注入虚假的用户行为来实现其目的,设计了一种生成虚假用户的优化问题的精确解决方案,并探讨了攻击传递性及其限制,在真实数据集上进行了实验,为防御这种可能出现的攻击提供了有用的方法。
Aug, 2020