Sep, 2023

通过实时邻近防御实现健壮的推荐

PDF
TL;DR在这篇论文中，我们提出了一种通用方法 Real-time Vicinal Defense（RVD），通过利用邻近的训练数据来对模型进行微调，从而在为每个用户做推荐之前确保特定样本的鲁棒性，在实时中具有防御强度，在不改变模型结构和训练过程的情况下更加实用，并且通过与其他策略的结合可以进一步增强防御效果。
recommender systemspoisoning attacksrobust learning methodsreal-time vicinal defensetargeted poisoning attacks
发现论文，激发创造
  • 基于漏洞感知的在线 RL 中的毒化机制及未知动态

    通过对异构攻击模型进行全面研究，本文建立了一个通用的强化学习在线毒化框架。在没有任何先验知识的情况下，我们提出了一种名为 VA2C-P 的策略毒化算法，通过度量 RL 的稳定半径来实现漏洞感知，成功防止了代理学习良好策略并教会代理方案收敛于目标方案.

    Sep, 2020

  • 通过合作训练保护推荐系统

    推荐系统中的假账号是一个严重的问题，本论文提出了一个三重协同防御的框架（TCD），旨在通过集成数据处理和鲁棒模型来提高推荐系统的鲁棒性。此外，论文还介绍了一种高效的攻击策略（Co-Training Attack），并将其与 TCD 作为一个博弈过程进行建模，从而全面研究了攻击和防御的潜力。实验证明，TCD 在提高模型鲁棒性方面表现卓越，同时提出的两种攻击策略相比现有攻击也更具威胁性。

    Jan, 2024

  • 深度学习推荐系统中的数据毒化攻击

    本研究针对基于深度学习的推荐系统进行了第一次系统性研究，提出了一个注入可控用户的数据污染攻击模型并发现此攻击在小、大规模数据集上都表现出色，同时提出多种优化方法用于解决此非凸整数编程问题。

    Jan, 2021

  • 重新审视对抗学习注入攻击对推荐系统的影响

    研究了推荐系统中存在的一种被称为 “对抗性注入攻击” 的问题，攻击者通过注入虚假的用户行为来实现其目的，设计了一种生成虚假用户的优化问题的精确解决方案，并探讨了攻击传递性及其限制，在真实数据集上进行了实验，为防御这种可能出现的攻击提供了有用的方法。

    Aug, 2020

  • 基于随机选择的认证防御数据污染攻击的框架

    该论文提出了一种基于随机选择的认证防御体系抵御数据毒化攻击，能通过平均从训练集中抽样的子数据集的分类器预测来实现认证的鲁棒性，该体系允许用户利用训练集和毒化模型的先前知识提高认证准确性，实验表明该方法优于现有技术水平。

    Sep, 2020

  • 最近邻居对数据恶意植入和后门攻击的认证鲁棒性

    利用 kNN 和 rNN 内在的多数投票机制可以提供针对数据污染攻击和后门攻击的保护，并且我们的评估结果表明 kNN 和 rNN 的内在保护机制胜过目前最先进的合格防御。

    Dec, 2020

  • 利用基于强化学习的聚合，在联邦学习中防御复杂的中毒攻击

    通过观察数据分布的稳定性，我们提出了 AdaAggRL，一种基于强化学习的自适应聚合方法，用于防御复杂的恶意攻击。实验证明，该防御模型在四个真实数据集上显著优于广泛采用的防护模型。

    Jun, 2024

  • 图基推荐系统的毒化攻击

    该研究系统地研究了针对基于图的推荐系统的攻击方法，将攻击行为转化为一个最优化问题，并提出可行的技术解决方案，针对广泛部署的基于图的推荐系统，攻击效果优于现有攻击方式，攻击效果显著。

    Sep, 2018

  • 联邦学习场景下基于深度学习的推荐模型攻击

    本篇论文研究了针对联邦学习场景下的基于深度学习的推荐模型的攻击方法，并提出了两种生成毒瘤梯度的策略以有效地破坏目标模型。

    Apr, 2022

  • 针对下一项推荐的实用数据污染攻击

    该论文提出了一种名为 LOKI 的实用数据攻击方法，使用强化学习算法训练攻击代理生成用户行为样本进行数据中毒，在现实世界的限制下，代理与推荐模拟器交互并利用对推荐结果的影响函数进行样本注射来污染目标系统。实验证明，LOKI 攻击性能优于现有方法。

    Apr, 2020