为了针对去中心化推荐系统中的局部模型投毒攻击,本文提出了一种系统性的方法来利用数据驱动推荐系统中固有的流行度偏差,实现针对特定项目的推广攻击。通过上传精心制作的梯度,在模型更新期间通过少数恶意用户有效地增加目标(不受欢迎)项目在结果联合推荐系统中的曝光率,而不会损害被毒害推荐器的准确性,现有的防御措施并不足够有效。
Oct, 2021
本研究针对基于深度学习的推荐系统进行了第一次系统性研究,提出了一个注入可控用户的数据污染攻击模型并发现此攻击在小、大规模数据集上都表现出色,同时提出多种优化方法用于解决此非凸整数编程问题。
Jan, 2021
该研究探讨了在联邦推荐系统中执行促销攻击的策略,引入了一种无需额外信息的新型假用户基础的中毒攻击,称为 PoisonFRS,该攻击能有效地促进攻击者选择的目标物品并且在潜在空间中无法区分真实用户和虚假用户的模型更新。
Feb, 2024
该论文介绍了一种针对联邦推荐系统的模型毒化攻击,利用公共交互信息近似用户特征向量,并通过精心设计的方式控制恶意用户上传毒化梯度,提高目标项的曝光率。实验结果表明,FedRecAttack 在 3% 的恶意用户和 1% 的公共交互情况下仍然非常有效,揭示了联邦推荐系统相比传统推荐系统更易受到攻击的事实。
Apr, 2022
该研究系统地研究了针对基于图的推荐系统的攻击方法,将攻击行为转化为一个最优化问题,并提出可行的技术解决方案,针对广泛部署的基于图的推荐系统,攻击效果优于现有攻击方式,攻击效果显著。
Sep, 2018
本文旨在研究联邦机器学习中的数据投毒攻击漏洞,使用一个基于多任务学习框架的联邦学习框架,提出了一个自适应的双层优化问题,并提出了一种系统感知的优化方法,ATTack on Federated Learning (AT2FL),用于计算联邦机器学习中的设备投毒策略。实验结果表明,无论是直接毒害目标节点还是利用通信协议间接毒害相关节点,联邦多任务学习模型都非常容易受到投毒攻击的影响。
Apr, 2020
本研究利用影响函数解决基于矩阵分解的推荐系统数据污染的问题,并通过优化问题构造一定数量的假用户,随后迫使推荐系统为普通用户推荐特定物品。该方法被证明是高效的,优于现有方法。
Feb, 2020
本文研究了面向联邦学习系统的有针对性的数据毒化攻击,通过对恶意参与者的异常检测和排除,提出了一种有效的防御策略。
Jul, 2020
本篇论文探讨了在联邦学习中的模型污染攻击,通过提出一种交替极小化策略和使用参数估计方法使恶意代理更容易成功攻击,同时提出利用可解释性技术生成模型决策的视觉解释,为联邦学习中的漏洞和防御策略提供了借鉴。
Nov, 2018
介绍了一种针对协同过滤系统的数据污染攻击,并提出了对两种流行的矩阵分解协同过滤算法的有效解决方案,同时在实际数据上测试了所提出算法的有效性和可能的防御策略。
Aug, 2016