本文提供了关于垂直联邦学习的综述,包括联邦学习的概念、算法及其各个方面的挑战和现有进展;介绍了 VFL 的分类、隐私保护协议、攻击和防御策略,并提出了 VFLow 统一框架;最后还回顾了工业应用的最新进展和存在的开放性问题和未来发展方向。
Nov, 2022
本文从硬件层到垂直联邦系统层对垂直联邦学习的现有工作和挑战进行分类,特别设计了一种新的 MOSP 树分类法来分析保护对象、安全模型和隐私保护协议等四个维度的核心组件 - 安全垂直联邦机器学习算法。
Apr, 2023
本文提出了一种基于云无线接入网络 (Cloud-RAN) 的竖直联合学习系统,利用空中计算 (AirComp) 和协作模型聚合技术减少地理分布的边缘服务器之间的通信延迟,结合传输优化模型和前传量化设计优化模型,提高竖直联合学习的模型聚合准确性。
May, 2023
本文研究压缩技术对典型图像分类任务的联邦学习的影响,并证明了一种简单的方法可以在保持不到 1% 准确率损失的同时压缩 50% 的消息,与最先进的技术相媲美。
Oct, 2023
提出了一种错误反馈压缩式纵向联邦学习(EFVFL)方法,该方法通过利用错误反馈,在满批次情况下实现了 $\mathcal {O}(1/T)$ 的收敛速度,改善了垂直 FL 中压缩方法的收敛速度,并且与未压缩的方法相匹配,同时支持使用私有标签。数值实验证实了该方法在改善收敛速度方面的优越性,并验证了理论结果。
Jun, 2024
本文介绍了垂直联合学习的状态和即将面临的挑战,它是在分散的数据上训练机器学习模型的一种方法,可保护数据隐私。
Dec, 2022
本文针对垂直联邦学习 (VFL) 这种特殊的架构设计,旨在解决 VFL 中关于安全隐私、大量计算和通信成本、模型分裂和系统异构等方面的研究挑战,提出有效的解决方案并在真实数据集上进行了实验,证明了我们的方案的有效性。
Feb, 2022
电子健康允许智能设备和医疗机构协作收集患者数据,通过人工智能技术进行训练,以帮助医生进行诊断。我们提出了一个混合联邦学习框架,包括水平和垂直分区的数据,并开发了一种适应性策略来调整训练参数和缩小发送的数据大小。实验证明,所提出的算法可以实现所需的准确性,同时减少通信成本,也验证了适应性策略的有效性。
Apr, 2024
调查分析了通信高效的联合学习方法,定义了通信效率的度量方法并提供了系统全面的分类和评述,讨论了提高联合学习系统通信效率的未来研究方向。
May, 2024
本文提出了 LESS-VFL,这是一种用于垂直切分数据的分布式系统中的通信高效特征选择方法,通过优化服务器端的全局模型,然后将此信息分享给其他参与方,从而允许本地特征选择,进而提高模型的泛化性、效率和可解释性。