FedMEKT: 基于蒸馏的多模态联邦学习嵌入式知识传递

Jul, 2023

FedMEKT: 基于蒸馏的多模态联邦学习嵌入式知识传递

FedMEKT: Distillation-based Embedding Knowledge Transfer for Multimodal Federated Learning

Huy Q. Le, Minh N. H. Nguyen, Chu Myaet Thwal, Yu Qiao, Chaoning Zhang...

TL;DR通过引入半监督学习方法和知识迁移机制，我们提出了一种新颖的多模态联邦学习框架 FedMEKT，该框架在多个客户端之间协作训练一个广义全局模型，克服了单模态数据和标记数据约束的问题，并且较其他基准方法具有更高的全局编码器性能、保证了用户数据和模型参数的隐私，并且通信成本较低。

Abstract

federated learning (FL) enables a decentralized machine learning paradigm for multiple clients to collaboratively train a generalized global model without sharing their private data. Most existing works simply propose typical FL systems for single-modal data, thus limiting its potentia

federated learning multimodal data semi-supervised learning knowledge transfer user privacy

发现论文，激发创造

FedICT: 多接入边缘计算的联邦多任务蒸馏

提出了一种名为 FedICT 的方法，使用知识蒸馏来实现在不同设备中同时训练相关但个性化的机器学习模型的目标。FedICT 在三个不同的数据集上的实验结果显示，相比于 FedAvg 和 FedGKT，其可在更少的通信开销和通信轮次内取得更好的精度表现，且可适应不同的数据异构性和模型结构设置。

Jan, 2023

朝着联邦学习中的多模态 Transformer

在视觉语言领域中，通过利用转换器架构对现有方法进行系统评估，并引入一种名为 FedCola 的新框架，填补了关于不配对的单模客户端和 FL 中转换器架构的研究空白。通过在各种 FL 设置下进行广泛实验，FedCola 展示了优于先前方法的性能，为未来多模态转换器的联邦训练提供了新的观点。

Apr, 2024

个性化脑肿瘤分割中的联邦特异编码器和多模态锚点

我们提出了一种新的联邦多模态编码器和多模态锚点 (FedMEMA) 的联邦学习框架，可以同时解决两个并发问题，即跨模态异质性和个性化模型。

Mar, 2024

FedMultimodal: 多模联邦学习基准测试

引入 FedMultimodal，它是第一个 FL 基准，用于多模态学习，覆盖了来自十个常用数据集的五个代表性多模态应用程序，总共有八种独特方式。与现有的 FL 基准不同，FedMultimodal 提供了一种标准化方法来评估 FL 对实际多模态应用程序中的三种常见数据污染的鲁棒性：缺失模态，缺失标签和错误标签。

Jun, 2023

3FM: 多模式元学习用于联邦任务

我们提出了一种面向联邦学习领域的新方法，特别关注应对模态异质性、客户端间模态可用性的差异和缺失数据的问题。我们介绍了一个专为多模态联邦任务设计的元学习框架，并通过对增强的 MNIST 数据集进行广泛的实验验证了我们提出的框架的有效性。我们的算法在一些缺失模态场景中通过元学习率的精细调整，实现了比基线更好的性能。

Dec, 2023

物联网数据上的多模态联邦学习

本文提出一种多模态和半监督联邦学习框架，利用自编码器从不同本地数据模态中提取共享和相关表示，并使用多模态 FedAvg 算法聚合不同数据模态上训练的本地自编码器。实证结果表明，引入多模态数据可以提高联邦学习的分类性能。

Sep, 2021

对比表示集成下的多模态联邦学习

CreamFL 是一个支持多模态联邦学习的框架，实现了对客户侧使用异构模型结构和数据模态，从而提高了全局模型的复杂度和数据容量，同时使用公共数据集进行知识交流，并设计了全局本地交叉模态集成策略来聚合客户端表示。同时，它还提出两种模态间和模态内对比的策略来规范本地训练以达到全局的共识性。在图像 - 文本检索和视觉问答任务上的测试结果表明，它比目前流行的联邦学习方法要更好。

Feb, 2023

利用基础模型进行多模态不完整模态联邦学习

本文提出了一种新颖的多模态联邦学习方法 FedMVP，通过集成大规模预训练模型来增强联邦训练，解决了多模态数据集中可能丢失模态的问题，在客户端和服务器端分别采用不同的方法进行模态补全和模型聚合，并在实际图像 - 文本分类数据集上证明了该方法的卓越性能和对缺失模态的鲁棒性。

Jun, 2024

跨模态渗透的平衡多模态联邦学习

通过知识从全局优势形式中转移，我们提出了一种新颖的跨模态渗透联邦学习（FedCMI）框架，有效缓解分布式条件下的模态失衡和知识异质性问题，并且在弱模态中促进局部特征开发，实现了公平的类别性能表现。

Dec, 2023

异构集成知识迁移用于联邦学习中的大模型训练

本研究提出了一种新的合奏知识转移方法 Fed-ET，采用了加权一致性蒸馏方案，通过利用各服务器的高度异构数据来提取可靠的共识，同时通过利用合奏中的多样性来改善泛化能力，并在图像和语言任务中显示出在通信参数较少的情况下，Fed-ET 明显优于其他最先进的 FL 算法，并且对于高数据异构性也是强健的。

Apr, 2022