Apr, 2024

操纵推荐系统：投毒攻击与防御措施综述

PDF
TL;DR该研究报告通过文献综述，提供了关于推荐系统中毒攻击和对策的新分类法，并对文献中描述的 30 多种攻击进行了整理。此外，对于检测和 / 或预防毒攻击的 40 多种对策进行了评估，评估了它们对特定类型攻击的有效性。该综述为保护推荐系统抵御毒攻击提供了一个参考点，并对领域中的未解决问题和未来研究方向进行了讨论。
发现论文，激发创造
  • 图基推荐系统的毒化攻击

    该研究系统地研究了针对基于图的推荐系统的攻击方法，将攻击行为转化为一个最优化问题，并提出可行的技术解决方案，针对广泛部署的基于图的推荐系统，攻击效果优于现有攻击方式，攻击效果显著。

    Sep, 2018

  • 人工智能中的毒化攻击与防御：一项调研

    本文综述了机器学习分类器训练中的数据污染攻击的安全漏洞，并介绍了几种可行的检测和缓解机制，比较了不同方法的性能以及固有属性，如可靠性、隐私和可解释性。同时，提供了未来研究方向的参考。

    Feb, 2022

  • 机器学习操作：回归学习的毒化攻击和对策

    该论文系统研究了线性回归模型中的污染攻击和其对策，提出了一个特定于线性回归的理论优化框架，并设计了一种面对污染攻击高度抗干扰的新型防御方法。

    Apr, 2018

  • 野外模式再載：機器學習對抗訓練數據毒化安全綜述

    本文对过去 15 年来关于机器学习中中毒攻击和防御的 100 多篇论文进行了全面的系统化概括和批判性点评，主要关注于视觉应用程序，并讨论了当前的限制和开放性的研究问题。

    May, 2022

  • 深度学习推荐系统中的数据毒化攻击

    本研究针对基于深度学习的推荐系统进行了第一次系统性研究，提出了一个注入可控用户的数据污染攻击模型并发现此攻击在小、大规模数据集上都表现出色，同时提出多种优化方法用于解决此非凸整数编程问题。

    Jan, 2021

  • PipAttack：对联邦推荐系统进行投毒攻击以操纵商品推广

    为了针对去中心化推荐系统中的局部模型投毒攻击，本文提出了一种系统性的方法来利用数据驱动推荐系统中固有的流行度偏差，实现针对特定项目的推广攻击。通过上传精心制作的梯度，在模型更新期间通过少数恶意用户有效地增加目标（不受欢迎）项目在结果联合推荐系统中的曝光率，而不会损害被毒害推荐器的准确性，现有的防御措施并不足够有效。

    Oct, 2021

  • 基于分解的协同过滤算法的数据毒化攻击

    介绍了一种针对协同过滤系统的数据污染攻击，并提出了对两种流行的矩阵分解协同过滤算法的有效解决方案，同时在实际数据上测试了所提出算法的有效性和可能的防御策略。

    Aug, 2016

  • 通过异常检测在污染攻击中检测对抗训练样例

    本文提出一种防御机制来弥补机器学习中数据毒化的影响，该机制基于离群值检测来检测所谓的最优攻击策略生成的对抗样本与真实样本之间的差异。

    Feb, 2018

  • 针对下一项推荐的实用数据污染攻击

    该论文提出了一种名为 LOKI 的实用数据攻击方法，使用强化学习算法训练攻击代理生成用户行为样本进行数据中毒，在现实世界的限制下，代理与推荐模拟器交互并利用对推荐结果的影响函数进行样本注射来污染目标系统。实验证明，LOKI 攻击性能优于现有方法。

    Apr, 2020

  • 奖励模型学习的偏好污染攻击

    从两两比较中学习效用模型或奖励模型是许多应用领域的基础组成部分。我们通过攻击算法的两类不同方法，系统地研究了恶意攻击者通过改变偏好比较数据来达到其目的的潜在性与效果，发现最佳攻击通常能在污染数据仅占 0.3% 情况下取得 100% 的成功率，并且不同领域中效果最佳的攻击方法可能存在显著差异。此外，我们还发现简单且可扩展的以距离为基础的方法通常与最佳攻击方法具有一定的竞争力，有时甚至能明显优于基于梯度的方法，并且在我们的研究中发现了其他类污染攻击的几种先进防御方法在这种情境下的效果有限。

    Feb, 2024