Jun, 2024

基于 LLM 的推荐系统中的隐私保护：最新进展与未来发展方向

PDF
TL;DR最近，大语言模型（LLMs）已经与传统的推荐模型相结合，以提高推荐性能。然而，尽管大多数现有的研究都集中在提高模型性能方面，但隐私问题只得到了相对较少的关注。在本文中，我们对基于 LLMs 的推荐系统中的隐私问题进行了综述，将其分为隐私攻击和保护机制。此外，我们还强调了几个挑战，并提出未来研究的方向，以解决这些关键问题。
large language modelsrecommendation modelsprivacyprivacy attacksprotection mechanisms
发现论文，激发创造
  • 大型语言模型中的隐私：攻击、防御与未来方向

    给出了当前针对大型语言模型（LLMs）的隐私攻击的全面分析，并对其进行了分类，同时提供了用于对抗这些隐私攻击的重要防御策略，并指出了 LLMs 发展中可能出现的新的隐私问题和未来的研究方向。

    Oct, 2023

  • 大型语言模型的安全与隐私挑战概述

    该文综述了大型语言模型在安全与隐私方面面临的挑战，分析了其脆弱性，并审查了潜在的攻击方式与防御机制，还指出了该领域中的研究空白与未来发展方向。

    Jan, 2024

  • 基于大型语言模型推荐的隐蔽攻击

    最近，大型语言模型对推荐系统的进展起到了重要作用，但是在系统蓬勃发展的同时，推荐系统容易受到安全威胁，我们揭示了引入大型语言模型到推荐模型中会导致新的安全漏洞，并且证明了攻击者可以通过改变物品的文本内容来显著提高其曝光度，而不影响模型的训练过程，且攻击方法具有隐蔽性，难以被用户和平台检测到。我们通过对四种主流基于大型语言模型的推荐模型进行全面实验证明了我们方法的高效性和隐蔽性。我们的研究揭示了基于大型语言模型的推荐系统存在重大的安全漏洞，并为未来的保护这些系统的研究开辟了道路。

    Feb, 2024

  • 语言模型中的隐私风险识别与缓解：调查

    通过对大规模语言模型的调查，本研究首次提供了关于语言模型隐私的技术综述，包括攻击与缓解策略的分类、现有攻击的趋势、现有缓解策略的强项与局限性，找出关键缺口并提出解决问题的方法与关切领域。

    Sep, 2023

  • 大语言模型时代的以人为中心的隐私研究

    基于大型语言模型的系统，在用户隐私方面存在问题，需要更多关注人类隐私问题的研究，包括设计范例对用户的行为披露、用户心智模型和隐私控制偏好的影响，以及赋予终端用户对个人数据的拥有权的工具设计，在此基础上构建可用、高效、具有隐私友好性质的系统。本文旨在启动关于人类隐私问题研究的讨论，为基于大型语言模型的系统中的隐私问题制定议程。

    Feb, 2024

  • 大型语言模型中的隐私问题：综述

    在大型语言模型中，该研究对隐私问题进行了第一次调查，重点关注对模型进行红队测试以凸显隐私风险、试图将隐私性纳入训练或推理过程、实现从训练模型中高效删除数据以遵守现有隐私法规，并试图缓解版权问题。

    Dec, 2023

  • 探索中文大型语言模型的隐私保护能力

    我们设计了一个三层渐进式框架，用于评估语言系统的隐私，以解决大型语言模型在隐私保护方面的问题。观察结果显示，现有的汉语大型语言模型普遍存在隐私保护方面的缺陷，可能在基于这些模型的应用中带来相应的隐私风险。

    Mar, 2024

  • 基于 LLMs 的在线广告：机遇与挑战

    本文探讨了在在线广告系统中利用大型语言模型 (LLM) 的潜力，深入研究了该系统必须满足的隐私、延迟、可靠性、用户和广告商满意度等关键要求。我们进一步介绍了一个 LLM 广告的通用框架，包括修改、竞价、预测和拍卖模块，对每个模块的设计考虑进行了详细探讨，分析了它们的实用性以及实现中存在的技术挑战。

    Nov, 2023

  • 大型语言模型是高级匿名化工具

    近期在隐私研究中，大型语言模型在推断真实世界在线文本中的个人数据方面已经达到接近人类水平的性能。在存在不断增长的模型能力的同时，现有的文本匿名化方法目前无法满足监管要求和对抗威胁。这引发了一个问题，即个人如何能够有效地在分享在线文本时保护自己的个人数据。本研究分两步回答这个问题：首先，我们提出了一个新的环境，在对抗性大型语言模型推理的情况下评估匿名化性能，从而在纠正以前的指标缺陷的同时，实现对匿名化性能的自然度量。然后，我们提出了基于大型语言模型的对抗性匿名化框架，利用大型语言模型的强大推理能力来指导我们的匿名化过程。在我们的实验评估中，我们展示了在真实世界和合成在线文本中，对抗性匿名化在结果效用和隐私方面均优于目前的工业级匿名化工具。

    Feb, 2024

  • LLM 是否能保守秘密？通过上下文完整理论测试语言模型的隐私影响

    通过提出 ConfAIde 基准测试，我们的实验结果表明即使在使用了隐私保护提示或思维链推理后，如 GPT-4 和 ChatGPT 这样的最先进模型仍然有 39% 和 57% 的概率在具体情境中泄露私人信息，这凸显了探索基于推理和心智理论的新型推理时隐私保护方法的迫切需要。

    Oct, 2023