Oct, 2023

使用联邦学习训练语义沟通系统

PDF
TL;DR通过利用用户数据来解决隐私问题，降低信息传输量并减少网络流量，我们在联邦学习设置中探索语义通信，并提出了一种称为 FedLol 的机制来聚合来自客户端的全局模型，与基线方法相比，详尽的模拟结果证明了我们提出的技术的有效性。
semantic communicationdata availabilityprivacysecurity concernsfederated learning
发现论文，激发创造
  • 探索联邦学习的实用性：从通信的角度进行调查

    调查分析了通信高效的联合学习方法，定义了通信效率的度量方法并提供了系统全面的分类和评述，讨论了提高联合学习系统通信效率的未来研究方向。

    May, 2024

  • 个性化语义沟通的联邦对比学习

    设计了一个支持个性化语义通信的联邦对比学习 (FedCL) 框架，它通过在多个客户端之间协作训练本地语义编码器和基站所拥有的全局语义解码器来实现。该框架不需要客户端模型聚合，支持异构语义编码器。此外，为了解决分布式客户端间异构数据集引起的语义不平衡问题，我们采用对比学习训练语义质心生成器 (SCG)。该生成器获得代表性的全局语义质心，具有内语义紧凑性和跨语义可分离性。因此，它为学习有区分性的本地语义特征提供优越的监督。此外，我们进行了理论分析，量化了 FedCL 的收敛性能。仿真结果验证了所提出的 FedCL 框架在任务性能和稳健性方面相对于其他分布式学习基准的优越性，尤其在低信噪比和高度异构数据场景下。

    Jun, 2024

  • 联邦学习：提高通信效率的策略

    本文探讨联邦学习中的机器学习算法以及通过结构化更新和草图更新的方式来降低通信成本，实验结果表明这两种方法可以将通信成本降低两个数量级。

    Oct, 2016

  • 联邦学习与无线通信

    本篇文章探讨了联邦学习与无线通信之间的关系，包括联邦学习的基本原理、训练模型的有效通信、联邦学习对智能无线应用的潜在贡献以及未来研究挑战和方向。

    May, 2020

  • 基于深度学习的语义通信系统与共享知识库

    提出了一种新颖的语义通信系统，该系统采用共享的知识库，并利用共享的知识库中的消息和相应知识来获取剩余信息，从而实现更少符号的传输，并且在语义性能方面没有降级。

    Nov, 2023

  • 语音转文本任务的高效个性化联邦学习

    为了保护隐私并满足法规要求，提出了一种个性化的联邦语音转文本框架，通过引入轻量级的客户端调试和服务器交互模块，以减小通信开销；并通过使用全局模型配备的 k 最近邻分类器来捕捉客户端特定的分布偏移以实现个性化，并克服数据异质性。实验证明，该方法在所有语音转文本任务中显著减少通信开销，并有效地个性化全局模型以克服数据异质性。

    Jan, 2024

  • 基于分散数据通信高效学习深度网络

    Federated Learning is proposed as an alternative to logging and training in a data center by aggregating locally-computed updates on mobile devices to improve the user experience. The approach is shown to be robust to non-IID data distributions and reduce required communication rounds by 10-100x compared to synchronized stochastic gradient descent.

    Feb, 2016

  • 联邦学习与下一代无线通信：双向关系的调查

    研究如何应用联邦学习和机器学习，实时决策和调整无线通信网络中的无线资源和管理，并突出它们与无线通信的双向关系

    Oct, 2021

  • 高效沟通的自适应联邦学习

    本文介绍了一种新的通信高效的自适应联邦学习方法 FedCAMS，该方法具有理论收敛保证并在各种基准测试上进行了广泛实验验证。

    May, 2022

  • 分布式图像语义无线传输的高效通信框架

    提出了基于联邦学习的语义通信框架（FLSC），旨在通过全局聚合改善多任务分布式图像传输，其中每个用户的每个链接由基于分层视觉变换器（HVT）的提取器和适应特定任务的适应性翻译器组成。通过仿真实验结果表明，FLSC 在粗略语义信息方面表现优秀，并在低信噪比和信道带宽比场景中明显优于传统方案。

    Aug, 2023