Jan, 2024

通过合作训练保护推荐系统

PDF
TL;DR推荐系统中的假账号是一个严重的问题，本论文提出了一个三重协同防御的框架（TCD），旨在通过集成数据处理和鲁棒模型来提高推荐系统的鲁棒性。此外，论文还介绍了一种高效的攻击策略（Co-Training Attack），并将其与 TCD 作为一个博弈过程进行建模，从而全面研究了攻击和防御的潜力。实验证明，TCD 在提高模型鲁棒性方面表现卓越，同时提出的两种攻击策略相比现有攻击也更具威胁性。
recommender systemsfake profilesdefense methodspoisoning attacksmodel robustness
发现论文，激发创造
  • 通过实时邻近防御实现健壮的推荐

    在这篇论文中，我们提出了一种通用方法 Real-time Vicinal Defense（RVD），通过利用邻近的训练数据来对模型进行微调，从而在为每个用户做推荐之前确保特定样本的鲁棒性，在实时中具有防御强度，在不改变模型结构和训练过程的情况下更加实用，并且通过与其他策略的结合可以进一步增强防御效果。

    Sep, 2023

  • 评审引入的模型无关配置注入攻击对推荐系统的影响

    通过引入产品的文本评论以提高生成质量，我们提出了一种名为 R-Trojan 的新型攻击框架，将攻击目标表述为优化问题，并采用定制的基于转换器的生成对抗网络 (GAN) 进行求解，从而产生高质量的攻击性用户配置文件。在黑盒设置下对各个受害者推荐系统进行的广泛实验证明了 R-Trojan 在多个受害者推荐系统上明显优于现有最先进的攻击方法，并展示了其良好的不可察觉性。

    Feb, 2024

  • FedCC: 模型投毒攻击下的强韧联邦学习

    Federated Learning 新范式弥补了使用机器或深度学习模型时隐私泄漏的担忧。FedCC 通过比较 net 不同层的标准核对其表示，提供了强大的聚合。实验结果表明，它缓解了非定向和有目的的模型污染或后门攻击，并且在非独立同分布数据环境中也有效。

    Dec, 2022

  • CoT：离散数据生成建模的合作式训练

    本文提出了一种名为 Cooperative Training 的新方法，通过将 GANs 的 min-max game 转化为一个联合最大化框架并显式地估计和优化 Jensen-Shannon 距离来解决序列生成模型的训练问题。实验证明，与现有的最先进方法相比，CoT 在样本质量、多样性和训练稳定性方面具有优越或至少具有竞争性的表现。

    Apr, 2018

  • 强化共同训练

    本文提出了一种名为 Reinforced Co-Training 的新型半监督学习方法，使用 Q-learning 学习数据选择策略并借此自动训练 Co-Training 分类器，实验证明该方法可以获得更准确的文本分类结果。

    Apr, 2018

  • 公平且鲁棒的推荐系统攻防设计讨论

    本篇论文讨论了推荐系统中的道德和社会问题，特别是 malicious user bias 所致的偏见和攻击对推荐模型的影响，强调了设计公平和稳定的推荐系统的重要性，尤其针对深度学习协同过滤推荐系统的脆弱性。

    Sep, 2022

  • 社区检测攻击：针对基于协作学习的推荐系统

    本文研究基于协作学习的推荐系统，发现当前解决隐私问题的方法容易受到社区检测攻击（Community Detection Attack，CDA）的威胁。通过三个真实的推荐数据集以及两种现代化的推荐模型的实验，研究人员发现，在 FL 和 Gossip Learning 设置中，所有模型和数据集中，FL 设置比 Gossip 设置更容易受到 CDA 攻击。此外，研究还比较了两种解决方案，发现共享策略比差分隐私策略更好地解决了隐私问题。

    Jun, 2023

  • 统计分类中的对抗学习：对抗攻击防御综述

    该论文对敌对学习进行了现代综述，重点关注了对统计分类器攻击的防御，并对最近关于测试时间逃避，数据污染和反向工程攻击以及对策进行了综述，最后提出了一些未解决问题和未来工作方向。

    Apr, 2019

  • 深度学习推荐系统中的数据毒化攻击

    本研究针对基于深度学习的推荐系统进行了第一次系统性研究，提出了一个注入可控用户的数据污染攻击模型并发现此攻击在小、大规模数据集上都表现出色，同时提出多种优化方法用于解决此非凸整数编程问题。

    Jan, 2021

  • 面向崩溃的三重割离对抗训练用于鲁棒图像检索

    该文提出了一种 COLO-TRIDE 框架，通过 collapse-oriented (COLO) adversarial training 和 triplet decoupling (TRIDE) 方法解决了现有研究中的模型崩溃和对抗性差的两个主要问题，实验证明该方法在 10 个鲁棒性指标和 3 个常用数据集上的表现优于当前最先进方法的平均水平提升了 7%，同时还提出了一种新的衡量图像检索鲁棒性的公平性指标，并将代码公开于 GitHub 平台。

    Dec, 2023