Jun, 2022

FedER：通过经验回放和隐私保护数据合成的联邦学习

PDF
TL;DR本文提出一种基于体验回放和生成对抗网络思想的联合和分散学习策略，名为 FedER，它可以在保持隐私的同时整合本地节点的特征，提供能够横跨多个数据集的模型，以实现对结核和黑色素瘤分类的准确诊断
发现论文，激发创造
  • 联邦学习：应用、挑战和未来方向

    本文提供了关于联邦学习的概述，并重点关注医疗保健领域。通过中央协调器服务器共享全局深度学习模型，解决了隐私保护需求并探讨了联邦学习遇到的挑战和未来发展方向，其中使用多方计算、同态加密、差分隐私和随机梯度下降等多种隐私方法。

    May, 2022

  • 任务无关的联邦学习

    应用自监督学习的联邦学习框架，通过使用 Vision Transformer 作为共识特征编码器进行无监督预训练，能够在各种真实非 IID 医学图像数据集上进行有效的表示学习，为多任务基础建模提供潜在的方法。

    Jun, 2024

  • 具有个性化和共享组件混合的医疗联合模型

    本文提出了一种新的个性化联邦学习框架来解决异构医疗数据在多个医院之间协作训练神经网络时的降级问题，并设计了差异性稀疏正则化器和降低计算成本的方法来提高计算效率，最后通过实验证明该方法可以获取最佳模型性能和高达 60％的通信效率改进。

    Jun, 2023

  • 隐私保护合奏关注蒸馏的联邦学习

    本文提出了一个利用未标记公共数据进行单向离线知识蒸馏的隐私保护联邦学习框架。通过集成注重蒸馏，利用本地知识训练中央模型。我们的技术采用分散和异构的本地数据，显著降低了隐私泄漏的风险。通过图像分类、分割和重构任务的大量实验，证明我们的方法在具有更强的隐私保护的同时实现了非常有竞争力的性能。

    Oct, 2022

  • 联邦机器学习和集中式机器学习的比较评估

    本文讨论分布式数据的非 IID 性质及其对联邦学习的训练造成的影响，同时对联邦学习与典型集中式梯度下降技术的不同之处进行比较，并在实践中演示样品数量和输出标签分布对联邦学习的影响。此外，本文证明了在模型大小不太大的情况下使用联邦学习框架具有成本优势。

    Feb, 2022

  • 使用 BEHRT 进行医学概念嵌入的联合学习

    本文提出了一种基于联邦学习的医学概念嵌入学习方法，通过使用 MIMIC-IV 数据集比较中心化学习和联邦学习的表现，结果发现联邦学习可以达到与中心化学习相近的性能，并且在平均精度上优于本地模型。同时，文章还证明了预训练掩码语言模型可以提高下一次就诊预测任务的性能。

    May, 2023

  • 关于分散式联邦学习的调查

    去中心化联邦学习解决方案的综述，包括现有的方法和未来的研究方向。

    Aug, 2023

  • 非 IID 环境下辅以差分隐私合成数据的联邦学习

    本文提出了基于差分隐私均值共享的联邦学习算法 FedDPMS，该算法使用变分自编码器在保护隐私的前提下，增强本地数据集合成多样化的数据以避免数据异构性对于联邦学习的负面影响，实验表明 FedDPMS 算法比其他面向异构数据的联邦学习算法性能更佳，特别适用于深度图像分类任务。

    Jun, 2022

  • 联邦学习：机遇与挑战

    介绍谷歌于 2016 年首次提出的联邦学习，多个设备在中央服务器的监督下协作学习机器学习模型，可保证本地数据的隐私性和安全性，同时存在攻击风险，就此探讨了联邦学习的机会和挑战所在。

    Jan, 2021

  • 面向医学转录分析的联合多语言模型

    该论文介绍了一个针对医学实体标注等下游任务的大规模多语言模型的联邦学习系统，它能够跨越高度异质化的数据提供者进行训练，并通过本地训练步骤进一步提高全局模型的性能。

    Nov, 2022