基于影响函数的数据毒化攻击对 Top-N 推荐系统的影响

WWWFeb, 2020

基于影响函数的数据毒化攻击对 Top-N 推荐系统的影响

Influence Function based Data Poisoning Attacks to Top-N Recommender Systems

Minghong Fang, Neil Zhenqiang Gong, Jia Liu

TL;DR本研究利用影响函数解决基于矩阵分解的推荐系统数据污染的问题，并通过优化问题构造一定数量的假用户，随后迫使推荐系统为普通用户推荐特定物品。该方法被证明是高效的，优于现有方法。

Abstract

recommender system is an essential component of web services to engage users. Popular recommender systems model user preferences and item properties using a large amount of crowdsourced user-item interaction data, e.g., rating scores; then top-$N$ items that match the best with a user'

recommender system data poisoning attack matrix factorization optimization problem influence function

发现论文，激发创造

深度学习推荐系统中的数据毒化攻击

本研究针对基于深度学习的推荐系统进行了第一次系统性研究，提出了一个注入可控用户的数据污染攻击模型并发现此攻击在小、大规模数据集上都表现出色，同时提出多种优化方法用于解决此非凸整数编程问题。

Jan, 2021

图基推荐系统的毒化攻击

该研究系统地研究了针对基于图的推荐系统的攻击方法，将攻击行为转化为一个最优化问题，并提出可行的技术解决方案，针对广泛部署的基于图的推荐系统，攻击效果优于现有攻击方式，攻击效果显著。

Sep, 2018

基于分解的协同过滤算法的数据毒化攻击

介绍了一种针对协同过滤系统的数据污染攻击，并提出了对两种流行的矩阵分解协同过滤算法的有效解决方案，同时在实际数据上测试了所提出算法的有效性和可能的防御策略。

Aug, 2016

用伪用户攻击联邦推荐系统

该研究探讨了在联邦推荐系统中执行促销攻击的策略，引入了一种无需额外信息的新型假用户基础的中毒攻击，称为 PoisonFRS，该攻击能有效地促进攻击者选择的目标物品并且在潜在空间中无法区分真实用户和虚假用户的模型更新。

Feb, 2024

联邦学习场景下基于深度学习的推荐模型攻击

本篇论文研究了针对联邦学习场景下的基于深度学习的推荐模型的攻击方法，并提出了两种生成毒瘤梯度的策略以有效地破坏目标模型。

Apr, 2022

重新审视对抗学习注入攻击对推荐系统的影响

研究了推荐系统中存在的一种被称为 “对抗性注入攻击” 的问题，攻击者通过注入虚假的用户行为来实现其目的，设计了一种生成虚假用户的优化问题的精确解决方案，并探讨了攻击传递性及其限制，在真实数据集上进行了实验，为防御这种可能出现的攻击提供了有用的方法。

Aug, 2020

PipAttack：对联邦推荐系统进行投毒攻击以操纵商品推广

为了针对去中心化推荐系统中的局部模型投毒攻击，本文提出了一种系统性的方法来利用数据驱动推荐系统中固有的流行度偏差，实现针对特定项目的推广攻击。通过上传精心制作的梯度，在模型更新期间通过少数恶意用户有效地增加目标（不受欢迎）项目在结果联合推荐系统中的曝光率，而不会损害被毒害推荐器的准确性，现有的防御措施并不足够有效。

Oct, 2021

针对下一项推荐的实用数据污染攻击

该论文提出了一种名为 LOKI 的实用数据攻击方法，使用强化学习算法训练攻击代理生成用户行为样本进行数据中毒，在现实世界的限制下，代理与推荐模拟器交互并利用对推荐结果的影响函数进行样本注射来污染目标系统。实验证明，LOKI 攻击性能优于现有方法。

Apr, 2020

FedRecAttack：对联邦推荐模型的模型毒化攻击

该论文介绍了一种针对联邦推荐系统的模型毒化攻击，利用公共交互信息近似用户特征向量，并通过精心设计的方式控制恶意用户上传毒化梯度，提高目标项的曝光率。实验结果表明，FedRecAttack 在 3% 的恶意用户和 1% 的公共交互情况下仍然非常有效，揭示了联邦推荐系统相比传统推荐系统更易受到攻击的事实。

Apr, 2022

操纵推荐系统：投毒攻击与防御措施综述

该研究报告通过文献综述，提供了关于推荐系统中毒攻击和对策的新分类法，并对文献中描述的 30 多种攻击进行了整理。此外，对于检测和 / 或预防毒攻击的 40 多种对策进行了评估，评估了它们对特定类型攻击的有效性。该综述为保护推荐系统抵御毒攻击提供了一个参考点，并对领域中的未解决问题和未来研究方向进行了讨论。

Apr, 2024