Apr, 2024

基于基础模型的联邦学习的进展与开放挑战

PDF
TL;DR综合调查了联邦基础模型（FedFM）领域，阐明了其与联邦学习（FL）的协同关系，并探索了 FL 研究领域在基础模型时代需要关注的新方法、挑战和未来方向。提出了一种系统的多层次分类法，对现有的 FedFM 方法进行了分类。全面讨论了关键挑战，包括如何使 FL 处理高复杂性的计算需求、隐私考虑、贡献评估和通信效率。这项调查强调了在 FedFM 领域进行进一步研究以推动创新的重要性，强调了开发可信解决方案的需求。作为研究人员和从业者参与这个跨学科和快速发展领域的基础指南。
foundation modelsfederated learningfederated foundation modelsmethodologieschallenges
发现论文，激发创造
  • 基础模型与联邦学习的相遇：动机、挑战和未来方向

    本文探讨了基础模型和联邦学习之间的相互作用，旨在深化其协同作用的理解并挖掘这两个领域的潜力，鼓励未来的研究方向，以进一步提高隐私保护和可伸缩性的人工智能系统的发展。

    Jun, 2023

  • 评估基于基础模型的联邦学习的稳健性、隐私性和公平性

    通过将基础模型整合到联邦学习中，我们研究了其对稳健性、隐私和公平性的影响，并提出了一套应对这些挑战的标准和策略，同时确定了推进该领域的潜在研究方向，为构建可靠、安全和公平的联邦学习系统奠定了基础。

    Feb, 2024

  • 在无线世界中基于模型的联邦学习的作用

    研究了基础模型在无线网络的联邦学习中的适用性，并探讨了集成基础模型和联邦学习实现未来智能网络的多个新范例和相关研究方向。

    Oct, 2023

  • 基于联邦学习的基础模型协同优化：一项综述

    基于联邦学习与基础模型的潜力和挑战以及核心技术、未来方向和应用的综述。

    Jun, 2024

  • 生物医疗健康中联邦基础模型的挑战与机遇

    该调查研究了基本模型（FM）在人工智能中的转化影响，重点关注其与联邦学习（FL）相结合在推进生物医学研究中的应用。基于巨大数据集通过无监督预训练、自监督学习、指导微调和人类反馈强化学习等方法训练的基本模型，如 ChatGPT、LLaMa 和 CLIP，代表了机器学习的重要进展。这些模型具有生成连贯文本和逼真图像的能力，在需要处理包括临床报告、诊断图像和多模态患者互动等多样数据形式的生物医学应用中发挥关键作用。将联邦学习与这些复杂模型结合起来，为利用其分析能力同时保护敏感医疗数据的隐私提供了有前途的策略。这种方法不仅提升了基本模型在医学诊断和个性化治疗方面的能力，还解决了医疗保健中数据隐私和安全的重要问题。该调查回顾了基本模型在联邦环境中的当前应用，强调了挑战，并确定了未来的研究方向，包括扩展基本模型、管理数据多样性以及提高联邦学习框架内的通信效率。旨在鼓励进一步研究基本模型和联邦学习的结合潜力，为突破性的医疗创新奠定基础。

    May, 2024

  • 联邦基础模型：大型模型的隐私保护和协同学习

    本文介绍了一种结合了联邦学习和基础模型的隐私保存方法，即联邦基础模型，其中涉及该方法的不同方面和任务，以及与传统基础模型的比较和实验。

    May, 2023

  • 基于联邦学习的基础模型集成在对抗威胁下的漏洞

    在现有的联邦学习（FL）框架存在数据不足和不平衡的情况下，基础模型（FMs）的出现为解决 FL 框架的局限性提供了潜在的解决方案，然而，由于 FMs 的固有安全问题，将 FMs 集成到 FL 中可能引入新的风险，为了解决这一问题，我们首次研究了整合 FM 的 FL（FM-FL）在对抗性威胁下的易损性，通过对图像和文本领域中着名模型和基准数据集的广泛实验，我们揭示了 FM-FL 对这种新威胁在各种 FL 配置下的高易感性，此外，我们发现现有的 FL 防御策略在防御这种新攻击方法方面提供了有限的保护，这项研究突出了在 FMs 时代的 FL 中增强安全措施的重要性。

    Jan, 2024

  • 基于高效联邦学习方法的基础模型训练调研

    Federated Learning (FL) 的研究论文主要讨论了在隐私保护的协作训练中应用小型深度学习模型的新方法以及在 FL 应用中操作基于 transformer 模型的必要性，介绍了一种专注于 FL 应用中计算和通信效率方法的新的分类法，并探讨了当前广泛使用的 FL 框架的现状以及基于现有 FL 研究方法的未来研究潜力。

    Jan, 2024

  • 联邦学习的进展：模型、方法和隐私

    本文详细阐述了联邦学习的体系结构、应用问题、算法设计原则和安全问题，提出了一种更加通用的算法设计框架、攻击场景和防御方法，致力于将联邦学习与真实世界应用相集成并实现高性能、隐私保护和安全性。

    Feb, 2023

  • 使用基础模型导航联邦推荐系统的未来

    综合评述了基于联邦学习和推荐系统的联邦推荐系统，讨论了数据异质性和数据稀缺性等固有限制，并介绍了基础模型的应用和研究方向，以及领域内的常见挑战、未来研究方向和评估指标。

    May, 2024