Jan, 2024

多源协同梯度差异最小化的联邦域泛化

HTML
PDF
TL;DR我们提出了一种多源协作梯度差异最小化（MCGDM）方法来实现联邦领域泛化，通过在原始图像和增强图像之间进行域内梯度匹配来避免过拟合孤立领域内的领域特定信息，同时通过与其他领域的合作进行域间梯度匹配，进一步减小分散领域之间的领域差异，通过结合域内和域间梯度匹配，我们的方法在未知领域上具有良好的泛化能力，同时还可以通过在伪标记的目标领域上微调目标模型来扩展到联邦领域适应任务，在联邦领域泛化和适应的广泛实验表明，我们的方法明显优于现有的方法。
发现论文，激发创造
  • 联邦多目标域自适应

    提出一种新的基于联邦学习的多目标领域自适应算法，通过对模型性能的分析，发现现有领域自适应方法在面对该问题时存在的问题，并提出一种有效的 DualAdapt 方法来解决这些问题。在图像分类和语义分割任务上的大量实验结果表明，我们的方法在客户端设备上实现高准确度，最小通信成本和所需计算资源低。

    Aug, 2021

  • 具有领域泛化的联邦学习

    提出了 FedADG 方法，利用联邦对抗学习来实现域泛化，通过将每个分布与参考分布匹配，逐个类别进行对齐来细粒度地对齐分布，学习到的特征表示可以很好地泛化到未见过的域。

    Nov, 2021

  • 通过寻求平坦的极小值改善联邦学习的泛化能力

    通过研究损失和Hessian特征谱的几何性质，我们研究了联邦设置中模型的不良性能和泛化失败，发现使用SAM或ASAM本地训练客户端并在服务器端平均随机权重（SWA）可以显着提高FL中的泛化能力并有助于缩小与中央模型的差距，在各种基准视觉数据集和任务上都表现出良好的效果。

    Mar, 2022

  • 面部识别联邦无监督领域自适应

    本文提出了一种联合优化聚类域自适应与联邦学习的方法来解决隐私约束下使用的人脸识别问题，并在新构建的基准测试数据集上进行了广泛的实验，证明在不同的评估指标上，该方法在目标域上的表现优于基线和经典方法3％至14％。

    Apr, 2022

  • 联邦领域泛化：一项调查

    本文介绍了机器学习发展的过程及其在领域自适应和领域泛化方面的应用，重点介绍了联邦域泛化的概念和相关算法，分类为联邦域对齐、数据处理、学习策略和聚合优化，并提供了常用的数据集、应用、评估和基准，这些研究对解决在不同领域和分布数据上广泛存在的泛化问题具有重要意义。

    Jun, 2023

  • DiPrompT：分解的提示调节在联邦学习中用于多个潜在域泛化

    通过学习自适应提示，采用分布式学习的方式，提出了一种高效而新颖的方法 DiPrompT，解决了现有联邦学习方法中对域标签的限制问题，实现了优秀的域泛化性能和超越中心化学习方法的结果。

    Mar, 2024

  • 高效组装归一化层和规范化方法用于联邦领域泛化

    基于归一化方案的gPerXAN是一种新颖的架构方法，通过个性化显式组装归一化和简单而有效的正则化，解决了领域偏移问题，并在多个基准数据集和一个真实医疗数据集上表现优于其他现有方法。

    Mar, 2024

  • 联邦领域泛化的特征多样化与调整

    在分布式学习中，我们引入了联邦特征多样化的概念，通过利用全局模型参数共享的聚合平均统计数据，每个本地客户端可以使自身的有限领域数据多样化，以实现学习与客户端无关的表示并保护隐私，并且我们提出了一种针对测试领域数据的实例自适应推理方法，通过动态调整特征统计与测试输入的一致性，从而减小测试和训练领域之间的差距，在联邦学习设置下，在几个领域泛化基准上取得了最先进的性能。

    Jul, 2024

  • FedCCRL：基于跨客户端表示学习的联邦领域泛化

    本研究解决了在联邦学习环境下，现有领域泛化算法因隐私限制和客户端数据量不足而不适用的问题。我们提出的FedCCRL方法，通过将MixStyle适应于联邦设置，显著提升了模型对未见领域的泛化能力，同时确保隐私安全和较低的计算通信成本。实验结果显示，FedCCRL在多个数据集上实现了最先进的性能。

    Oct, 2024

  • FedCCRL: 具有跨客户端表示学习的联邦领域泛化

    本研究针对联邦学习中领域泛化的挑战，提出了FedCCRL方法，以实现模型在未见领域的有效泛化，同时保护隐私并降低计算和通信成本。通过将MixStyle适配于联邦设置，结合AugMix和对比损失，本方法在PACS、OfficeHome和miniDomainNet数据集上取得了先进的性能。

    Oct, 2024