Aug, 2024

LLM-PBE：评估大型语言模型中的数据隐私

HTML
PDF
TL;DR本研究解决了大型语言模型（LLMs）中数据隐私风险未被系统评估的空白问题。通过引入一款名为LLM-PBE的工具包，我们提供了一种全生命周期的隐私评估方法，结合了多种攻击与防御策略，并深入分析了模型大小、数据特性等影响因素。研究结果为理解LLMs中的隐私问题提供了重要资源，对未来研究具有显著影响。
发现论文，激发创造
  • ProPILE: 大型语言模型中的隐私泄漏探测

    本文介绍了一种探测工具ProPILE，由数据主体或PII所有者制定提示，评估基于LLMs的服务中PII泄漏的程度，并且展示了其在OPT-1.3B上的应用，该工具是授予数据主体他们对网络数据的知情权和控制权的开创性一步。

    Jul, 2023

  • 语言模型中的隐私风险识别与缓解：调查

    通过对大规模语言模型的调查，本研究首次提供了关于语言模型隐私的技术综述，包括攻击与缓解策略的分类、现有攻击的趋势、现有缓解策略的强项与局限性，找出关键缺口并提出解决问题的方法与关切领域。

    Sep, 2023

  • 大型语言模型中的隐私：攻击、防御与未来方向

    给出了当前针对大型语言模型（LLMs）的隐私攻击的全面分析，并对其进行了分类，同时提供了用于对抗这些隐私攻击的重要防御策略，并指出了LLMs发展中可能出现的新的隐私问题和未来的研究方向。

    Oct, 2023

  • P-Bench: 语言模型多层隐私评估基准

    我们提出了P-Bench，这是一个用于经验和直观地量化语言模型的隐私泄漏的多角度隐私评估基准，并对各种隐私保护语言模型进行公平和直观的评估。

    Nov, 2023

  • 大型语言模型（LLM）安全与隐私调查：优点、缺点和不好的一面

    这篇论文探讨了大型语言模型与安全和隐私的交叉领域，研究了它们对安全和隐私的积极影响、潜在的风险和威胁，以及模型本身的固有漏洞。通过全面的文献综述，将研究结果分为“有益”的应用、恶意应用和漏洞及其防御措施。论文还指出了需要进一步研究的领域，并希望通过该研究揭示大型语言模型在加强和危及网络安全方面的潜力。

    Dec, 2023

  • 大型语言模型的安全与隐私挑战概述

    该文综述了大型语言模型在安全与隐私方面面临的挑战，分析了其脆弱性，并审查了潜在的攻击方式与防御机制，还指出了该领域中的研究空白与未来发展方向。

    Jan, 2024

  • 探索中文大型语言模型的隐私保护能力

    我们设计了一个三层渐进式框架，用于评估语言系统的隐私，以解决大型语言模型在隐私保护方面的问题。观察结果显示，现有的汉语大型语言模型普遍存在隐私保护方面的缺陷，可能在基于这些模型的应用中带来相应的隐私风险。

    Mar, 2024

  • 大型语言模型：大规模隐私政策分析的新方法

    利用大型语言模型（LLM）以替代传统的自然语言处理技术，在较大规模上从隐私政策中高效准确地提取隐私做法，并实现出色的性能评估和降低成本。

    May, 2024

  • 大型语言模型中的隐私保护：当前威胁与解决方案的调查

    本研究探讨了大型语言模型（LLMs）在隐私保护方面面临的挑战，特别是在关键领域（如医疗保健）中的风险。提出从数据匿名化到差分隐私的多种解决方案，以在整个学习过程中有效地集成隐私保护机制。这项工作的关键发现是为构建更安全可信的人工智能系统提供了针对隐私保护方法的全面评估与未来发展方向的指导。

    Aug, 2024

  • 大型语言模型的隐私意识如何？合规性与隐私技术评估案例研究

    本研究针对大型语言模型（LLMs）在隐私合规和技术隐私评审中的应用不足问题，提供了全面的案例研究。提出了隐私技术评审（PTR）框架，并通过实证评估多个知名LLMs在隐私信息提取、法律和监管关键点检测等任务中的表现，发现尽管这些模型在自动化隐私审查方面具有潜力，仍存在与法律标准全面合规的显著 gaps。

    Sep, 2024