Oct, 2023

确保高效联邦学习的模型初始化技术综合研究

PDF
TL;DR机器学习中的隐私问题对于保护用户数据至关重要，联邦学习已成为一种有前景的方法，能够在分布式且保护隐私的方式下合作训练全局模型，而模型初始化是其学习过程中的关键部分，本研究深入探讨了联邦学习中各种模型初始化技术的优缺点并提出了创新性的解决方案。
发现论文，激发创造
  • 联邦学习的进展：模型、方法和隐私

    本文详细阐述了联邦学习的体系结构、应用问题、算法设计原则和安全问题，提出了一种更加通用的算法设计框架、攻击场景和防御方法，致力于将联邦学习与真实世界应用相集成并实现高性能、隐私保护和安全性。

    Feb, 2023

  • 联邦机器学习和集中式机器学习的比较评估

    本文讨论分布式数据的非 IID 性质及其对联邦学习的训练造成的影响，同时对联邦学习与典型集中式梯度下降技术的不同之处进行比较，并在实践中演示样品数量和输出标签分布对联邦学习的影响。此外，本文证明了在模型大小不太大的情况下使用联邦学习框架具有成本优势。

    Feb, 2022

  • 关于分散式联邦学习的调查

    去中心化联邦学习解决方案的综述，包括现有的方法和未来的研究方向。

    Aug, 2023

  • 联邦学习：最新进展与应用的前沿综述

    在机器学习系统中，通过联邦学习作为一个安全的分布式机器学习方法，有效提升隐私安全；它利用区块链技术将机器学习模型转移到边缘服务器，通过这种机制保证了集中式和分散式系统的高效处理和数据存储需求，强调可伸缩性、隐私考虑和成本有效的通信。本文对最近的联邦学习应用进行了分析和比较，以评估其效率、准确性和隐私保护。然而，鉴于联邦学习复杂且不断演化的特点，明确需要进一步研究来解决知识间的差距并有效应对该领域面临的挑战。在本文中，我们将最近的文献分为以下几个类别：隐私保护、资源分配、案例研究分析和应用，此外，在每个章节的末尾，我们还对参考文献中提出的开放领域和未来方向进行了总结，为研究人员提供了领域演进的深入视角。

    Oct, 2023

  • 联邦学习的威胁：综述

    本文提供了一种简洁的介绍联邦学习的概念，并使用一个唯一的分类法来涵盖针对联邦学习的威胁模型和两个主要的攻击方法：1) 污染攻击和 2) 推理攻击，探讨了向更强大的隐私保护方向发展的有前途的未来研究方向.

    Mar, 2020

  • 对应用于解决联邦学习中非独立同分布和异质数据特性的不同技术的综述

    联邦学习是一种机器学习方法，可以在持有本地数据样本的多个分散边缘设备之间进行协作模型训练，而无需交换这些样本。本报告探讨了非独立非同分布的数据与异构数据带来的问题，并探索了目前设计用于解决这些挑战的算法。

    Jan, 2024

  • 重新思考起点：通过合作预训练提升联合学习的性能和公平性

    我们提出了一种协作预训练方法，CoPreFL，它通过设计一个预训练模型，能够为任何下游联邦学习任务提供良好的初始化，通过元学习算法在分布式场景中模拟下游任务，以适应任何未预料到的联邦学习任务，平衡平均性能和公平性，从而提高了平均性能和更公正的预测。

    Feb, 2024

  • 走向个性化联邦学习

    本综述论文研究了个性化联邦学习（PFL）的领域，着重解决异构数据带来的基本问题，通过分类和分析 PFL 技术，提出其关键挑战和机会，并展望了未来研究的发展方向。

    Mar, 2021

  • 联邦学习中的隐私与鲁棒性：攻击与防御

    在这篇综述性论文中，作者重点介绍基于联邦学习的系统在应对恶意攻击、保障隐私方面所面临的问题，特别关注如何提高系统鲁棒性和隐私保护措施。

    Dec, 2020

  • 从随机到基础模型的指导初始化在医学图像分割中的联邦学习中的起始点在哪里？

    通过使用基础模型的巨大预训练知识作为以医学图像分割任务为例的 FL 模型初始化的指导教师，本研究首次尝试将基础模型作为 FL 初始化的教师，评估其对 FL 模型性能的影响，尤其是在非独立同分布数据场景中。经验评估结果表明，在胸部 X 光肺分割任务中，FL 模型初始化指导下的 FL 不仅能实现更快的收敛，而且在复杂数据情境中也能提高性能，为 FL 中的模型初始化提供了新的视角。

    Nov, 2023