Nov, 2023

垂直联合大型语言模型的输入重构攻击

PDF
TL;DR最近，由于 ChatGPT 的出现，大型语言模型（LLMs）受到学术界和公众的广泛关注。然而，隐私问题限制了它们在现实生活中的应用。本文探讨了垂直联邦学习（VFL）在保护用户输入方面的失败，并提出了加强垂直联邦 LLMs 隐私的几种可能解决方案。
large language modelsprivacy concernsvertical federated learninguser inputprivacy enhancement
发现论文，激发创造
  • 防御竖直联邦学习中的重构攻击

    本文研究了在纵向联邦学习中防御输入泄漏攻击的方法，提出了一种基于对抗训练的框架，包含敌对重建、噪声正则化和距离相关性最小化三个模块，此框架能够有效保护输入隐私同时保留了模型的效用。

    Jul, 2021

  • 使用敌对嵌入攻击竖直联邦学习模型

    本研究探讨了垂直联邦学习的安全保障问题，针对现有垂直联邦学习框架中使用密码学技术提供数据隐私和安全保障的方式，提出了对模型安全性的进一步研究探讨。

    Dec, 2022

  • 基于模型生命周期的垂直联邦学习中隐私威胁与防御调查

    综述了垂直联邦学习中的隐私攻击和防御方法，提供了攻击和防御的分类方法，并讨论了未来的研究方向和挑战，为研究人员提供了资源，为从业者在机器学习模型的生命周期中保护数据隐私提供明确指导和可行的见解。

    Feb, 2024

  • UIFV：纵向联邦学习中的数据重构攻击

    利用统一 InverNet 框架引入 VFL 中，通过利用中间特征数据重构原始数据，而不是依赖于梯度或模型细节，我们的研究揭示了 VFL 系统中的严重隐私漏洞，这对实际 VFL 应用构成了真正的威胁，并证实了进一步增强 VFL 架构中的隐私保护的必要性。

    Jun, 2024

  • 垂直联邦学习中基于特征的推理攻击对模型预测的影响

    本文介绍了几种特征推断攻击方法，以调查垂直联邦学习模型预测阶段可能存在的隐私泄露问题。实验评估证明了所提出攻击方法的有效性，并强调了在垂直 FL 中设计保护模型预测输出的机制的必要性。

    Oct, 2020

  • BadVFL: 垂直联邦学习的后门攻击

    本文研究了垂直联邦学习中的干扰攻击，提出了第一种干净标签后门攻击技术，并在三个数据集上验证了其有效性，研究了攻击成功的因素，并讨论了减轻其影响的对策。

    Apr, 2023

  • 纵向联邦学习：挑战、方法与实验

    本文针对垂直联邦学习 (VFL) 这种特殊的架构设计，旨在解决 VFL 中关于安全隐私、大量计算和通信成本、模型分裂和系统异构等方面的研究挑战，提出有效的解决方案并在真实数据集上进行了实验，证明了我们的方案的有效性。

    Feb, 2022

  • 垂直联邦学习

    本文提供了关于垂直联邦学习的综述，包括联邦学习的概念、算法及其各个方面的挑战和现有进展；介绍了 VFL 的分类、隐私保护协议、攻击和防御策略，并提出了 VFLow 统一框架；最后还回顾了工业应用的最新进展和存在的开放性问题和未来发展方向。

    Nov, 2022

  • 大型语言模型中的嵌入信息泄漏

    该研究探讨了大型语言模型在数据隐私方面引发的关切，并研究了恶意模型提供者通过输入重建攻击来侵犯隐私的潜力。研究提出了两种基础方法以重建模型隐藏状态中的原始文本，并介绍了一种基于 Transformer 的方法以重建深层嵌入的输入。研究发现 Embed Parrot 在从 ChatGLM-6B 和 Llama2-7B 的隐藏状态中重建原始输入方面表现良好，并提出了一种防御机制以阻止嵌入重建过程的滥用。研究结果强调在分布式学习系统中保护用户隐私的重要性，并为增强此类环境中的安全协议提供了有价值的见解。

    May, 2024

  • 针对纵向联邦学习的实用通用后门攻击

    该研究提出了一种名为 BadVFL 的新型攻击方法，旨在向受害模型注入后门触发器，无需标签信息，并通过 SDD 模块和 SDP 模块实现了攻击的高攻击成功率，是一种有效的针对垂直联邦学习中潜在安全风险的方案。

    Jun, 2023