Jun, 2024

UIFV：纵向联邦学习中的数据重构攻击

PDF
TL;DR利用统一 InverNet 框架引入 VFL 中，通过利用中间特征数据重构原始数据，而不是依赖于梯度或模型细节，我们的研究揭示了 VFL 系统中的严重隐私漏洞，这对实际 VFL 应用构成了真正的威胁，并证实了进一步增强 VFL 架构中的隐私保护的必要性。
vertical federated learningvfldata leakageunified invernet frameworkprivacy vulnerabilities
发现论文，激发创造
  • 垂直联邦学习

    本文提供了关于垂直联邦学习的综述，包括联邦学习的概念、算法及其各个方面的挑战和现有进展；介绍了 VFL 的分类、隐私保护协议、攻击和防御策略，并提出了 VFLow 统一框架；最后还回顾了工业应用的最新进展和存在的开放性问题和未来发展方向。

    Nov, 2022

  • BadVFL: 垂直联邦学习的后门攻击

    本文研究了垂直联邦学习中的干扰攻击，提出了第一种干净标签后门攻击技术，并在三个数据集上验证了其有效性，研究了攻击成功的因素，并讨论了减轻其影响的对策。

    Apr, 2023

  • 防御竖直联邦学习中的重构攻击

    本文研究了在纵向联邦学习中防御输入泄漏攻击的方法，提出了一种基于对抗训练的框架，包含敌对重建、噪声正则化和距离相关性最小化三个模块，此框架能够有效保护输入隐私同时保留了模型的效用。

    Jul, 2021

  • 使用敌对嵌入攻击竖直联邦学习模型

    本研究探讨了垂直联邦学习的安全保障问题，针对现有垂直联邦学习框架中使用密码学技术提供数据隐私和安全保障的方式，提出了对模型安全性的进一步研究探讨。

    Dec, 2022

  • 基于模型生命周期的垂直联邦学习中隐私威胁与防御调查

    综述了垂直联邦学习中的隐私攻击和防御方法，提供了攻击和防御的分类方法，并讨论了未来的研究方向和挑战，为研究人员提供了资源，为从业者在机器学习模型的生命周期中保护数据隐私提供明确指导和可行的见解。

    Feb, 2024

  • 基于垂直分区数据的实用训练的解耦垂直联合学习

    垂直联邦学习（VFL）是一种新兴的分布式机器学习范式，其中具有共同实体的不同特征的所有者合作学习一个全局模型，而不共享数据。我们提出了解耦的 VFL（DVFL）作为一种分块学习方法，它允许分散聚合和特征学习与标签监督之间的隔离，在容错性和安全性方面具有优势。我们使用 DVFL 训练分割神经网络，并证明在各种分类数据集上，模型性能与 VFL 相当。

    Mar, 2024

  • 垂直联邦学习中基于特征的推理攻击对模型预测的影响

    本文介绍了几种特征推断攻击方法，以调查垂直联邦学习模型预测阶段可能存在的隐私泄露问题。实验评估证明了所提出攻击方法的有效性，并强调了在垂直 FL 中设计保护模型预测输出的机制的必要性。

    Oct, 2020

  • 动态网络中的容错垂直联合学习

    垂直联邦学习是一种联邦学习的类别，在这种类别中，每个客户端共享相同的样本空间，但仅持有特征的子集。本文提出了 Internet Learning（IL），包括其数据分割和网络环境，将性能表现优化为处理客户端的极端动态条件的主要目标。在模拟传感器网络的基础上，通过实现新方法，提出指标并广泛分析结果，证明所开发的方法对网络变化的鲁棒性更优于 VFL 基线。

    Dec, 2023

  • 垂直联邦学习的效果、安全性、适用性调查

    纵向联邦学习是一种隐私保护的分布式学习范式，不泄露私密数据的情况下，不同参与方通过使用共享样本的分区特征协同学习模型。本文对纵向联邦学习的最新发展进行了系统概述，并提出了几个关键的未来研究方向，以促进该领域的发展。

    May, 2024

  • 垂直联合大型语言模型的输入重构攻击

    最近，由于 ChatGPT 的出现，大型语言模型（LLMs）受到学术界和公众的广泛关注。然而，隐私问题限制了它们在现实生活中的应用。本文探讨了垂直联邦学习（VFL）在保护用户输入方面的失败，并提出了加强垂直联邦 LLMs 隐私的几种可能解决方案。

    Nov, 2023