不同领域间的跨边界联邦学习及参数迭代对齐

Nov, 2023

不同领域间的跨边界联邦学习及参数迭代对齐

Cross-Silo Federated Learning Across Divergent Domains with Iterative Parameter Alignment

Matt Gorbett, Hossein Shirazi, Indrakshi Ray

TL;DR通过改进典型的联邦学习模型，我们提出了一种新的框架，称为迭代参数对齐，它通过优化每个参与者的模型以实现灵活的跨分散数据集学习，并且在不同数据域上表现出竞争力和鲁棒性。

Abstract

Learning from the collective knowledge of data dispersed across private sources can provide neural networks with enhanced generalization capabilities. federated learning, a method for collaboratively training a m

federated learning neural networks convergence model optimization peer models

发现论文，激发创造

异构联邦学习

本文提出了一种新颖的联邦学习框架，通过设计特征定向调节方法 (ψ-Net) 来确保显式特征信息在不同的神经网络结构中的分配，并应用于协作模型中，在通常分散和混乱的信息环境下，通过协定的时序，信息的有序分配及结构匹配，提高了联邦学习的适用性，同时提供了优秀的收敛速度、精度和计算 / 通信效率。

Aug, 2020

增量迁移学习综述：将点对点联邦学习与领域增量学习结合以实现多中心协作

由于数据隐私限制，多个临床中心之间的数据共享受限制，这阻碍了通过多中心合作开发高性能深度学习模型的进展。本文通过使用持续学习技术，将点对点联邦学习和领域增量学习相结合，进行增量迁移学习，以克服数据隐私问题并同时保持模型性能。进行了一项针对多中心合作的不同基于正则化的持续学习方法效果的全面调查，对数据异质性、分类器设置、网络优化器、模型初始化、中心顺序和权重传递类型的影响进行了彻底研究。我们的框架对研究社区是公开可访问的，以进行进一步的开发。

Sep, 2023

分布式个性化在线联邦学习

我们提出了一个新的去中心化个性化在线联邦学习设置，用于在在线环境中学习，在每个客户端上学习个性化模型，并在去中心化环境中学习。我们解决了两个技术挑战：如何通过优化本地模型的性能来聚合来自邻近客户端的共享模型参数，并通过学习的聚合权重选择最有帮助的邻居减少通信成本。

Nov, 2023

基于协调数据孤岛的联邦学习

本文提出了一个面向端到端联合机器学习和数据集成的体系结构愿景，为数据管理信息系统和机器学习交叉研究带来重要启示，以解决不同站点之间存在的数据集成和数据格式一致性问题。

May, 2023

个性化联邦学习：一种元学习方法

本文研究了联邦学习的个性化变种，在 Model-Agnostic Meta-Learning 框架下，通过个性化 Federated Averaging 算法，根据不同用户数据的分布差异，探讨其性能的影响。

Feb, 2020

个性化联邦学习中的所需学习内容

个性化联邦学习中的数据异质性是一个重要问题，目前的方法未能根据每个本地客户端的数据特征定制合作方式，导致聚合结果不理想。为解决这一问题，我们提出了一种基于算法展开的个性化联邦学习框架 Learn2pFed，使每个客户端能够自适应地选择其本地模型参数中应参与协作训练的部分。Learn2pFed 的关键创新之处在于通过算法展开方法，将每个本地模型参数的参与程度作为可学习参数进行优化。实验证明 Learn2pFed 在回归、预测和图像分类等多个任务中显著优于以往的个性化联邦学习方法。

Jan, 2024

跨领域联合学习：挑战与机遇

本文概述了联邦学习领域中的一个新兴分支 “cross-silo FL”，分析了其应用和所面临的主要挑战，并对现有方法进行了系统总结，同时指出了未来需要重点研究的方向和问题。

Jun, 2022

朝着更可持续的企业数据和应用管理：跨边界联邦学习和分析

通过在全球范围内部署跨领域联邦学习来遵守新的法律要求和隐私保护政策，越来越多的公司开始实施此方法。该研究分析了跨领域联邦学习的可持续性，并提出了一种综合性的定量成本与二氧化碳排放估计方法。同时，提出了一个使用跨领域联邦学习和分析的数据与应用程序管理系统，以使 IT 公司更具可持续性和成本效益。

Dec, 2023

带加权跨设备传输的联邦式连续学习

这篇论文提出了一种新的基于权重的、面向联邦持续学习的框架，旨在解决在每个客户端从私有本地数据流中学习一系列任务的情况下，如何使用其他客户端的知识并防止不相关的知识干扰的问题。FedWeIT 取得了优秀的学习成果和通信代价的显著降低，是现有联邦学习和持续学习方法的重要改进。

Mar, 2020

跨组织边缘学习中协作结构优化

本文提出了 FedCollab，一种基于数据分布距离和数据数量对客户端进行聚类的新型联邦学习框架，可以有效地减轻负面转移问题，并在各种 FL 算法中始终优于其他聚类 FL 算法。

Jun, 2023