Jan, 2021

深度学习推荐系统中的数据毒化攻击

PDF
TL;DR本研究针对基于深度学习的推荐系统进行了第一次系统性研究，提出了一个注入可控用户的数据污染攻击模型并发现此攻击在小、大规模数据集上都表现出色，同时提出多种优化方法用于解决此非凸整数编程问题。
recommender systemsdeep learningdata poisoning attacksfake usersoptimization
发现论文，激发创造
  • 图基推荐系统的毒化攻击

    该研究系统地研究了针对基于图的推荐系统的攻击方法，将攻击行为转化为一个最优化问题，并提出可行的技术解决方案，针对广泛部署的基于图的推荐系统，攻击效果优于现有攻击方式，攻击效果显著。

    Sep, 2018

  • 基于影响函数的数据毒化攻击对 Top-N 推荐系统的影响

    本研究利用影响函数解决基于矩阵分解的推荐系统数据污染的问题，并通过优化问题构造一定数量的假用户，随后迫使推荐系统为普通用户推荐特定物品。该方法被证明是高效的，优于现有方法。

    Feb, 2020

  • 联邦学习场景下基于深度学习的推荐模型攻击

    本篇论文研究了针对联邦学习场景下的基于深度学习的推荐模型的攻击方法，并提出了两种生成毒瘤梯度的策略以有效地破坏目标模型。

    Apr, 2022

  • 基于分解的协同过滤算法的数据毒化攻击

    介绍了一种针对协同过滤系统的数据污染攻击，并提出了对两种流行的矩阵分解协同过滤算法的有效解决方案，同时在实际数据上测试了所提出算法的有效性和可能的防御策略。

    Aug, 2016

  • 用伪用户攻击联邦推荐系统

    该研究探讨了在联邦推荐系统中执行促销攻击的策略，引入了一种无需额外信息的新型假用户基础的中毒攻击，称为 PoisonFRS，该攻击能有效地促进攻击者选择的目标物品并且在潜在空间中无法区分真实用户和虚假用户的模型更新。

    Feb, 2024

  • 重新审视对抗学习注入攻击对推荐系统的影响

    研究了推荐系统中存在的一种被称为 “对抗性注入攻击” 的问题，攻击者通过注入虚假的用户行为来实现其目的，设计了一种生成虚假用户的优化问题的精确解决方案，并探讨了攻击传递性及其限制，在真实数据集上进行了实验，为防御这种可能出现的攻击提供了有用的方法。

    Aug, 2020

  • PipAttack：对联邦推荐系统进行投毒攻击以操纵商品推广

    为了针对去中心化推荐系统中的局部模型投毒攻击，本文提出了一种系统性的方法来利用数据驱动推荐系统中固有的流行度偏差，实现针对特定项目的推广攻击。通过上传精心制作的梯度，在模型更新期间通过少数恶意用户有效地增加目标（不受欢迎）项目在结果联合推荐系统中的曝光率，而不会损害被毒害推荐器的准确性，现有的防御措施并不足够有效。

    Oct, 2021

  • 操纵推荐系统：投毒攻击与防御措施综述

    该研究报告通过文献综述，提供了关于推荐系统中毒攻击和对策的新分类法，并对文献中描述的 30 多种攻击进行了整理。此外，对于检测和 / 或预防毒攻击的 40 多种对策进行了评估，评估了它们对特定类型攻击的有效性。该综述为保护推荐系统抵御毒攻击提供了一个参考点，并对领域中的未解决问题和未来研究方向进行了讨论。

    Apr, 2024

  • 针对下一项推荐的实用数据污染攻击

    该论文提出了一种名为 LOKI 的实用数据攻击方法，使用强化学习算法训练攻击代理生成用户行为样本进行数据中毒，在现实世界的限制下，代理与推荐模拟器交互并利用对推荐结果的影响函数进行样本注射来污染目标系统。实验证明，LOKI 攻击性能优于现有方法。

    Apr, 2020

  • 通过复制跨域用户信息攻击黑盒推荐系统

    本研究提出了一种名为 CopyAttack 的强化学习黑盒攻击方法，可以利用源域中的真实用户信息，在目标域中推广一组项目，从而最大化目标域中用户 Top-k 推荐列表中目标项目的点击率，并在实验中验证了该方法的有效性，并进行了深入的模型分析。

    May, 2020