防御基于替换的顺序推荐系统污染攻击

Jul, 2022

防御基于替换的顺序推荐系统污染攻击

Defending Substitution-Based Profile Pollution Attacks on Sequential Recommenders

Zhenrui Yue, Huimin Zeng, Ziyi Kou, Lanyu Shang, Dong Wang

TL;DR本文针对序列推荐系统中的对抗攻击，提出了基于替换的对抗攻击算法和一种称为 Dirichlet 邻域采样的有效防御方法。均在各类模型架构与数据集上获得了较好的效果。

Abstract

While sequential recommender systems achieve significant improvements on capturing user dynamics, we argue that sequential recommenders are vulnerable against substitution-based profile pollution attacks. To demonstrate our hypothesis, we propose a substitution-based adversarial attack

sequential recommender systems adversarial attacks dirichlet neighborhood sampling adversarial training robust item representations

发现论文，激发创造

深度学习推荐系统中的数据毒化攻击

本研究针对基于深度学习的推荐系统进行了第一次系统性研究，提出了一个注入可控用户的数据污染攻击模型并发现此攻击在小、大规模数据集上都表现出色，同时提出多种优化方法用于解决此非凸整数编程问题。

Jan, 2021

评审引入的模型无关配置注入攻击对推荐系统的影响

通过引入产品的文本评论以提高生成质量，我们提出了一种名为 R-Trojan 的新型攻击框架，将攻击目标表述为优化问题，并采用定制的基于转换器的生成对抗网络 (GAN) 进行求解，从而产生高质量的攻击性用户配置文件。在黑盒设置下对各个受害者推荐系统进行的广泛实验证明了 R-Trojan 在多个受害者推荐系统上明显优于现有最先进的攻击方法，并展示了其良好的不可察觉性。

Feb, 2024

社交推荐的无目标黑盒攻击

通过使用多代理强化学习算法，我们提出了一种名为 Multiattack 的新型框架，用于在黑盒社交推荐系统中进行协调生成冷启动物品概述和跨社区社交关系，以进行非定向的攻击。我们在多个现实世界数据集上进行了综合实验，证明了我们所提出的攻击框架在黑盒环境下的有效性。

Nov, 2023

通过复制跨域用户信息攻击黑盒推荐系统

本研究提出了一种名为 CopyAttack 的强化学习黑盒攻击方法，可以利用源域中的真实用户信息，在目标域中推广一组项目，从而最大化目标域中用户 Top-k 推荐列表中目标项目的点击率，并在实验中验证了该方法的有效性，并进行了深入的模型分析。

May, 2020

推荐系统的顺序性破坏了评估过程

本研究旨在通过对流行评估过程的敌对攻击来表征顺序数据对案例的重要性，提供一种序列感知提升攻击方法，以及在观察数据顺序的基础上仅利用机密测试集的额外信息的下限，从而证明评估处理对 MovieLense-100k 数据集的影响可达约 1％。

May, 2022

通过无数据模型提取对顺序推荐器的黑盒攻击

本研究探讨了模型提取是否可以用于 “窃取” 顺序推荐系统的权重以及针对此类攻击对受害者可能带来的潜在威胁。我们认为，由于用于训练它们的特定自回归模型，顺序推荐系统容易受到攻击。我们在无数据访问情况下，通过有限预算模拟数据生成和知识蒸馏提出了一种基于 API 的模型提取方法，以研究最先进的顺序推荐模型在此类攻击下的脆弱性。通过两阶段攻击，即模型提取和下游攻击，我们发现黑盒顺序推荐模型易受白盒顺序推荐器生成的对抗样本干扰并受到污染。

Sep, 2021

图基推荐系统的毒化攻击

该研究系统地研究了针对基于图的推荐系统的攻击方法，将攻击行为转化为一个最优化问题，并提出可行的技术解决方案，针对广泛部署的基于图的推荐系统，攻击效果优于现有攻击方式，攻击效果显著。

Sep, 2018

基于影响函数的数据毒化攻击对 Top-N 推荐系统的影响

本研究利用影响函数解决基于矩阵分解的推荐系统数据污染的问题，并通过优化问题构造一定数量的假用户，随后迫使推荐系统为普通用户推荐特定物品。该方法被证明是高效的，优于现有方法。

Feb, 2020

通过实时邻近防御实现健壮的推荐

在这篇论文中，我们提出了一种通用方法 Real-time Vicinal Defense（RVD），通过利用邻近的训练数据来对模型进行微调，从而在为每个用户做推荐之前确保特定样本的鲁棒性，在实时中具有防御强度，在不改变模型结构和训练过程的情况下更加实用，并且通过与其他策略的结合可以进一步增强防御效果。

Sep, 2023

对比推荐系统的毒化攻击

对比学习已经在推荐领域取得了显著的流行度，但本文发现基于对比学习的推荐系统存在一个更易受污染攻击的漏洞，并通过实验证明了这一攻击模型的破坏性，以促进更强大的对比学习推荐系统的发展。

Nov, 2023