MMJun, 2024

用户偏好动态下的推荐系统伤害缓解

PDF
TL;DR研究考虑了推荐系统、用户兴趣演化以及有害内容之间的相互作用，建模了推荐对用户行为的影响，特别是对有害内容消费的倾向性。旨在找到在最大化点击率（CTR）和减轻伤害之间建立权衡的推荐策略，并提出了在稳态下找到最优推荐策略的算法。在以真实数据初始化的半合成电影推荐设置上进行实验，观察到我们的策略在同时最大化 CTR 和减轻伤害方面优于基准线。
recommender systemuser interestsharmful contentrecommendation policiesclick-through rate
发现论文，激发创造
  • 推荐系统与人的交互

    该研究旨在了解推荐算法对未来用户数据的影响，通过提出一个简单模型，表明忽略这个反馈循环将导致非一致性评估器，因此验证了我们的结论。

    Mar, 2017

  • 使用模拟用户来度量推荐系统的效果

    本文通过提出基于模拟框架的评估指标，研究了推荐系统中普遍存在的偏见与用户行为之间的关系，并通过经验案例研究了流行度偏见如何随时间展现。

    Jan, 2021

  • 在推荐系统中估计和惩罚引起的偏好转变

    研究表明，推荐系统展示给用户的内容会影响他们的决策， 本文通过使用历史用户交互数据训练预测用户模型来评估推荐系统对用户偏好的影响，提出使用 “安全移位” 的概念来规避操纵行为。模拟实验表明，优化保持 “安全移位” 的推荐系统能够避免 manipulative 行为同时仍然能够产生用户参与度。

    Apr, 2022

  • 强化学习推荐系统中的用户篡改

    本文提供了一种新的形式化方法和实证演示，来探讨强化学习（RL）推荐算法中的安全性问题，其中 RL 系统可能通过其推荐来操作用户的意见以增加其长期参与度。作者应用因果建模技术分析了文献中可扩展的 RL 推荐方法，发现这些方法允许进行用户操纵。作者还提供了一个模拟研究，演示 RL 算法如何利用其推荐来极化模拟用户的意见。本研究呼吁设计更安全的 RL 推荐器，并建议从最近文献中采用的方法进行根本性转变。

    Sep, 2021

  • 基于影响函数的数据毒化攻击对 Top-N 推荐系统的影响

    本研究利用影响函数解决基于矩阵分解的推荐系统数据污染的问题，并通过优化问题构造一定数量的假用户，随后迫使推荐系统为普通用户推荐特定物品。该方法被证明是高效的，优于现有方法。

    Feb, 2020

  • 多行为推荐中的公平因果干预

    本文提出了一种基于因果框架、通过多种用户行为数据进行推荐，以消除流行度偏差并提高推荐公平性且不牺牲推荐准确性的方法。

    Sep, 2022

  • 基于用户的推荐系统流行度偏差评估

    本论文提出了一种新的度量方法以及一种后征的算法来缓解推荐系统中热门偏执的问题，该方法在不同用户的角度下提供了更准确的度量，实验结果表明现有的解决方案还不能很好地处理用户对热门推荐物品的容忍度。

    Mar, 2021

  • 通过缓解操纵攻击来推进推荐系统

    该论文提出了一种准确检测系统中有假评价账户的算法，并研究这些账户对推荐系统的影响。

    Apr, 2024

  • 深度学习推荐系统中的数据毒化攻击

    本研究针对基于深度学习的推荐系统进行了第一次系统性研究，提出了一个注入可控用户的数据污染攻击模型并发现此攻击在小、大规模数据集上都表现出色，同时提出多种优化方法用于解决此非凸整数编程问题。

    Jan, 2021

  • 公平且鲁棒的推荐系统攻防设计讨论

    本篇论文讨论了推荐系统中的道德和社会问题，特别是 malicious user bias 所致的偏见和攻击对推荐模型的影响，强调了设计公平和稳定的推荐系统的重要性，尤其针对深度学习协同过滤推荐系统的脆弱性。

    Sep, 2022