高分辨率异构人脸超分辨率重建中数据稀缺问题的解决

CVPRMar, 2022

高分辨率异构人脸超分辨率重建中数据稀缺问题的解决

Escaping Data Scarcity for High-Resolution Heterogeneous Face Hallucination

Yiqun Mei, Pengfei Guo, Vishal M. Patel

TL;DR本文提出了一种新的面部幻觉范式，该方法不仅可以实现数据有效的综合，还允许扩大模型培训而不违反任何隐私政策。与现有方法完全从头学习面部合成不同，我们的方法特别设计用于利用可见域内的丰富和多样的面部优先知识以获得更加忠实的幻觉，并引入一种新的联邦学习方案，允许机构之间的合作而避免数据共享。在统一框架下，我们的方法在多个 HFR 数据集上产生了最先进的幻觉结果。

Abstract

In heterogeneous face recognition (HFR), the objective is to match faces across two different domains such as visible and thermal. Large domain discrepancy makes HFR a difficult problem. Recent methods attempting to fill the gap via synthesis have achieved promising results, but their

heterogeneous face recognition domain discrepancy data-efficient synthesis privacy policy federated learning

发现论文，激发创造

SplitLoRA：大型语言模型的分割参数高效微调框架

本研究提出了用于大型语言模型的分割学习框架 SplitLoRA，综合了联邦学习和分割学习的优势，显著提高了训练效率，并通过广泛的模拟验证表明 SplitLoRA 比最先进的模型微调框架在更短的时间内实现了目标精度，展示了 SplitLoRA 的卓越训练性能。

Jul, 2024

面向联邦学习中反向攻击的全过程可靠聚合方法

我们研究提出了一种新的全过程确证的鲁棒聚合（WPCRA）方法和一种新的加权几何中位数估计（WGME）算法，通过在三个阶段（ex-ante、ex-durante 和 ex-post）增强鲁棒性，提高 Federated Learning（FL）对后门攻击的抵抗力。相对于基线方法的比较表明，我们的方法显著提升了 FL 对后门攻击的鲁棒性。

Jun, 2024

MH-pFLGB: 模型异构个性化全球绕行联邦学习用于医学图像分析

在医学人工智能应用中，联邦学习以保护训练数据隐私而著名。我们引入了一种新方法 MH-pFLGB，利用全局旁路策略来解决统计和系统异质性带来的挑战，并优化联邦学习的有效性。此方法通过整合全局旁路模型，增强了传统联邦学习的性能，同时还提供特征融合模块以更好地结合本地和全局特征，在不同的医学任务中展示出卓越的性能。

Jun, 2024

个性化解读联邦学习：一种虚拟概念方法

设计了一种新颖的联邦学习方法，用于解决跨客户的非独立同分布数据解释性问题，同时提高模型性能和训练过程的鲁棒性，并实验证明了该方法的有效性。

Jun, 2024

FedMap：迭代基于幅度修剪的通信高效联邦学习

FedMap 是一种新颖的方法，通过协作学习逐渐稀疏全局模型，从而提高联邦学习系统的通信效率，适用于对隐私至关重要的医疗和金融领域。它采用迭代的振幅剪枝方法训练全局模型，以减少通信开销，避免了参数重新激活问题，实现了稳定的性能表现。FedMap 在多样的设置、数据集、模型架构和超参数中进行了广泛评估，证明了在 IID 和非 IID 环境下的性能，并相较于基线方法，FedMap 能够达到更稳定的客户端模型性能，并在不降低准确性的情况下至少实现 80% 的剪枝。

Jun, 2024

QBI：基于分位数的偏差初始化在联邦学习中用于高效的私有数据重建

基于联邦学习的隐私保护中，我们提出了 QBI 和 PAIRS 两个算法，分别通过稀疏激活模式和附加数据集的方式提高了恢复数据的能力，并且在 ImageNet 和 IMDB 情感分析数据集上得到了显著的改进，同时我们还提出并评估了 AGGP，用于防止梯度稀疏攻击，为更安全和私密的联邦学习系统的开发做出了贡献。

Jun, 2024

运用自适应差分隐私和基于优先级的聚合增强联邦学习

通过个性化差分隐私框架和考虑各种异构性和属性调整的方法，该论文提出了一种高效地保护隐私的个性化差分隐私框架，并对联邦学习算法的收敛边界进行了分析，同时进一步研究了考虑时间变化的个性化因素的收敛性质。

Jun, 2024

FedAQ: 基于上下行自适应量化的通信高效联邦边缘学习

通过使用量化的综合方法，联合上下行适应性量化以减少通信开销，我们优化了学习收敛性，并通过确定最优的上行和下行量化位数进行了通信能量约束。实验结果表明，所提出的联合上行和下行适应性量化策略与现有方案相比，能够节省高达 66.7% 的能量。

Jun, 2024

应对高度异质性：航空和空间网络中的联邦学习

通过使用无人机、气球和卫星，联邦学习利用大量的私有边缘数据和计算能力，为航空和航天网络中的网络和数据隐私挑战提供了一种引人注目的解决方案。然而，异质性和类别不平衡问题对于快速模型收敛仍然是一个重大障碍。本研究探讨了异质性对类别不平衡的影响，并展示了如电池寿命等约束加剧了类别不平衡挑战。我们的结果显示，与其他情景相比，在 ASN（航空航天网络）中基于联邦学习面临更严重的类别不平衡问题，现有的先进算法往往无法有效应对高水平的异质性。

Jun, 2024

任务无关的联邦学习

应用自监督学习的联邦学习框架，通过使用 Vision Transformer 作为共识特征编码器进行无监督预训练，能够在各种真实非 IID 医学图像数据集上进行有效的表示学习，为多任务基础建模提供潜在的方法。

Jun, 2024