基于大型语言模型推荐的隐蔽攻击

Feb, 2024

基于大型语言模型推荐的隐蔽攻击

Stealthy Attack on Large Language Model based Recommendation

Jinghao Zhang, Yuting Liu, Qiang Liu, Shu Wu, Guibing Guo...

TL;DR最近，大型语言模型对推荐系统的进展起到了重要作用，但是在系统蓬勃发展的同时，推荐系统容易受到安全威胁，我们揭示了引入大型语言模型到推荐模型中会导致新的安全漏洞，并且证明了攻击者可以通过改变物品的文本内容来显著提高其曝光度，而不影响模型的训练过程，且攻击方法具有隐蔽性，难以被用户和平台检测到。我们通过对四种主流基于大型语言模型的推荐模型进行全面实验证明了我们方法的高效性和隐蔽性。我们的研究揭示了基于大型语言模型的推荐系统存在重大的安全漏洞，并为未来的保护这些系统的研究开辟了道路。

Abstract

Recently, the powerful large language models (LLMs) have been instrumental in propelling the progress of recommender systems (RS). However, while these systems have flourished, their susceptibility to security th

large language models recommender systems security vulnerabilities textual content stealthy attack

发现论文，激发创造

基于 LLM 的推荐系统中的隐私保护：最新进展与未来发展方向

最近，大语言模型（LLMs）已经与传统的推荐模型相结合，以提高推荐性能。然而，尽管大多数现有的研究都集中在提高模型性能方面，但隐私问题只得到了相对较少的关注。在本文中，我们对基于 LLMs 的推荐系统中的隐私问题进行了综述，将其分为隐私攻击和保护机制。此外，我们还强调了几个挑战，并提出未来研究的方向，以解决这些关键问题。

Jun, 2024

探究大型语言模型对推荐系统的影响：一次广泛的综述

大规模语言模型（LLMs）在重新塑造推荐系统中的重要性得到强调，将其价值归因于传统推荐系统中缺乏的独特推理能力。与缺乏直接用户交互数据的传统系统不同，LLMs 在推荐物品方面表现出卓越的熟练度，展示了其理解语言细微差别的能力，这标志着推荐领域的一个基本范式转变。在充满活力的研究领域中，研究人员积极利用 LLMs 的语言理解和生成能力重新定义推荐任务的基础。本文详细探讨了 LLMs 在推荐框架中的固有优势，包括细微的语境理解、在不同领域之间无缝切换、采用统一的方法、利用共享数据库的全面学习策略、透明的决策制定和迭代改进。尽管具有改变潜力，但仍存在挑战，包括对输入提示的敏感性、偶尔的误解以及意外的推荐，这需要对 LLM 驱动的推荐系统进行持续的完善和演进。

Feb, 2024

大型语言模型攻击的比较调查

通过综述各种在大型语言模型上攻击的形式及机制，以及其潜在影响和当前的防御策略，该论文探讨了大型语言模型的安全性和脆弱性方面的问题。研究主题包括旨在操纵模型输出的对抗性攻击、影响模型训练的数据污染，以及与训练数据利用相关的隐私问题。论文还探讨了不同攻击方法的有效性、大型语言模型对这些攻击的弹性以及对模型完整性和用户信任的影响。通过研究最新的研究成果，提供对大型语言模型的脆弱性和防御机制的深入了解，旨在引起人工智能社区的关注，并激发切实解决这些风险的方法。

Mar, 2024

大型语言模型的安全与隐私挑战概述

该文综述了大型语言模型在安全与隐私方面面临的挑战，分析了其脆弱性，并审查了潜在的攻击方式与防御机制，还指出了该领域中的研究空白与未来发展方向。

Jan, 2024

推荐系统中的大型语言模型调查

本文概论了基于大型语言模型的推荐系统，提出了两种主要类型（分别为判别型 LLM 推荐 DLLM4Rec 和生成型 LLM 推荐 GLLM4Rec），分别从方法、技术和性能等方面对现有的 LLM 推荐系统进行了系统的分类和评估，并指出了主要挑战和有价值的发现。

May, 2023

大型语言模型的安全风险分类

通过针对大型语言模型（LLM）存在的安全风险进行评估，本研究填补了当前研究的空白，并提出了一种基于提示的攻击风险分类方法，以强调 LLM 在用户 - 模型通信路径上的安全风险。该分类方法通过具体的攻击示例加以支持，并旨在为安全性强、值得信赖的 LLM 应用程序的开发提供指导。

Nov, 2023

网络安全中的大型语言模型：最新技术

通过评估对进攻和防御应用的研究，本研究旨在提供对 LLM 驱动的网络安全领域中潜在风险和机遇的整体理解。

Jan, 2024

用于网络安全的大型语言模型：系统文献综述

大型语言模型在网络安全领域的应用综述，包括漏洞检测、恶意软件分析、数据隐私等问题，指出了数据集大小与多样性的重要性以及未来研究方向。

May, 2024

保护大型语言模型：威胁、漏洞和负责任的做法

对大型语言模型（LLMs）的安全与隐私问题进行了全面的研究，从安全与隐私问题、对抗性攻击的脆弱性、滥用影响、缓解策略以及当前策略的局限性等五个主题角度进行深入探讨，并提出了未来研究的有前景的方向，以增强 LLMs 的安全和风险管理。

Mar, 2024

大型语言模型不稳定的推荐系统

通过探索性研究，我们发现 LLMs 中的位置偏差会影响推荐系统的性能，因此我们提出了一个贝叶斯概率框架来校准 LLMs 的不稳定性，并增强推荐性能，实验证明了框架的有效性。

Dec, 2023