Sep, 2024

大型语言模型的隐私意识如何？合规性与隐私技术评估案例研究

HTML
PDF
TL;DR本研究针对大型语言模型（LLMs）在隐私合规和技术隐私评审中的应用不足问题，提供了全面的案例研究。提出了隐私技术评审（PTR）框架，并通过实证评估多个知名LLMs在隐私信息提取、法律和监管关键点检测等任务中的表现，发现尽管这些模型在自动化隐私审查方面具有潜力，仍存在与法律标准全面合规的显著 gaps。
发现论文，激发创造
  • 大型语言模型是否能提供安全和隐私建议？测量LLM反驳误解的能力

    对大型语言模型在安全和隐私（S&P）领域中提供可靠建议的能力进行了研究，发现平均错误率为21.3％，当用相同或释义的误解进行多次查询时错误率增至32.6％；研究还揭示，模型可能部分支持错误观点或不表态，且提供的信息源包括无效的URL和无关的来源。

    Oct, 2023

  • 大型语言模型可以作为良好的隐私保护学习者

    利用特定域数据对大型语言模型进行微调时，存在个人身份信息敏感度的问题。为了解决这一挑战，我们引入了隐私保护语言模型（PPLM），通过有效注入特定领域知识来保护数据隐私。我们的工作提供了模型设计理论分析，并详细介绍了诸如语料库整理、基于惩罚性失真的训练损失和基于指令的微调等技术。在各种数据集和场景下的广泛实验证实了我们方法的有效性。特别是，正负样本指令微调成为一种有潜力的方法，可以在增强模型知识的同时保护私人数据。我们的工作突显了大型语言模型作为强大隐私保护学习器的潜力。

    Oct, 2023

  • 大型语言模型中的隐私：攻击、防御与未来方向

    给出了当前针对大型语言模型（LLMs）的隐私攻击的全面分析，并对其进行了分类，同时提供了用于对抗这些隐私攻击的重要防御策略，并指出了LLMs发展中可能出现的新的隐私问题和未来的研究方向。

    Oct, 2023

  • 大型语言模型（LLM）安全与隐私调查：优点、缺点和不好的一面

    这篇论文探讨了大型语言模型与安全和隐私的交叉领域，研究了它们对安全和隐私的积极影响、潜在的风险和威胁，以及模型本身的固有漏洞。通过全面的文献综述，将研究结果分为“有益”的应用、恶意应用和漏洞及其防御措施。论文还指出了需要进一步研究的领域，并希望通过该研究揭示大型语言模型在加强和危及网络安全方面的潜力。

    Dec, 2023

  • 大型语言模型中的隐私问题：综述

    在大型语言模型中，该研究对隐私问题进行了第一次调查，重点关注对模型进行红队测试以凸显隐私风险、试图将隐私性纳入训练或推理过程、实现从训练模型中高效删除数据以遵守现有隐私法规，并试图缓解版权问题。

    Dec, 2023

  • 大型语言模型的安全与隐私挑战概述

    该文综述了大型语言模型在安全与隐私方面面临的挑战，分析了其脆弱性，并审查了潜在的攻击方式与防御机制，还指出了该领域中的研究空白与未来发展方向。

    Jan, 2024

  • 探索中文大型语言模型的隐私保护能力

    我们设计了一个三层渐进式框架，用于评估语言系统的隐私，以解决大型语言模型在隐私保护方面的问题。观察结果显示，现有的汉语大型语言模型普遍存在隐私保护方面的缺陷，可能在基于这些模型的应用中带来相应的隐私风险。

    Mar, 2024

  • 隐私保护条件下的逻辑回归模型推断的无免费午餐定理

    通过开发一个推断隐私保护的大型语言模型框架并提出无免费午餐（NFL）定理，本研究为检验隐私保护和效用之间的相互作用奠定了坚实的理论基础。

    May, 2024

  • 大型语言模型：大规模隐私政策分析的新方法

    利用大型语言模型（LLM）以替代传统的自然语言处理技术，在较大规模上从隐私政策中高效准确地提取隐私做法，并实现出色的性能评估和降低成本。

    May, 2024

  • 大型语言模型中的隐私保护：当前威胁与解决方案的调查

    本研究探讨了大型语言模型（LLMs）在隐私保护方面面临的挑战，特别是在关键领域（如医疗保健）中的风险。提出从数据匿名化到差分隐私的多种解决方案，以在整个学习过程中有效地集成隐私保护机制。这项工作的关键发现是为构建更安全可信的人工智能系统提供了针对隐私保护方法的全面评估与未来发展方向的指导。

    Aug, 2024