QBI：基于分位数的偏差初始化在联邦学习中用于高效的私有数据重建

Jun, 2024

QBI：基于分位数的偏差初始化在联邦学习中用于高效的私有数据重建

QBI: Quantile-based Bias Initialization for Efficient Private Data Reconstruction in Federated Learning

Micha V. Nowak, Tim P. Bott, David Khachaturov, Frank Puppe, Adrian Krenzer...

TL;DR基于联邦学习的隐私保护中，我们提出了 QBI 和 PAIRS 两个算法，分别通过稀疏激活模式和附加数据集的方式提高了恢复数据的能力，并且在 ImageNet 和 IMDB 情感分析数据集上得到了显著的改进，同时我们还提出并评估了 AGGP，用于防止梯度稀疏攻击，为更安全和私密的联邦学习系统的开发做出了贡献。

Abstract

federated learning enables the training of machine learning models on distributed data without compromising user privacy, as data remains on personal devices and only model updates, such as gradients, are shared

federated learning privacy qbi pairs gradient sparsity attacks

发现论文，激发创造

非 IID 场景下，基于隐私推理的隐蔽后门攻击联邦学习

本文提出了一种基于多样化数据重建机制和源特定型后门学习策略的隐蔽后门攻击 (PI-SBA) 方案来处理联邦学习中的数据异构、后门攻击、以及隐私推理三个问题，并且经过实验验证，该方案在 MNIST、CIFAR10 和 Youtube 对齐人脸数据集上具有很好的效果，并且可以有效地躲避防御方法的检测。

Jun, 2023

在实验室和野外学习盲目评估图像质量

通过多个畸变场景下的图像数据库训练，我们提出的盲视觉质量评估深度网络模型可以有效地在实验室和野外进行盲目评估，比以前的方法具有更高的评估精度。

Jul, 2019

实验室和野外环境下的不确定性感知盲图像质量评估

通过端到端优化特征工程和质量回归，盲目的图像质量评估（BIQA）模型的性能得到了显著提高。然而，由于实验室模拟的图像和野外拍摄的图像之间的分布偏移，仅在具有合成失真的数据库上训练的模型在处理现实失真方面仍然特别薄弱（反之亦然）。为应对跨失真场景的挑战，我们开发了一个 “统一” 的 BIQA 模型，并采用一种同时用于合成和真实失真的训练方法。

May, 2020

梯度分解：通过重构用户参与矩阵打破联合学习的隐私

通过聚合模型更新，掌握联邦学习中的用户隐私信息可能存在风险，破坏了联邦学习的数据安全，研究展示了一种攻击方法，通过聚合的模型更新重建用户和其私有训练数据之间的联系，属于一种细致入微、平行操作并具有较高灵敏度的推断攻击。

Jun, 2021

联邦学习中隐私泄露的定量指标

本文提出了一种基于互信息的量化度量方法，用于评估联邦学习中客户端数据的梯度信息泄露风险，并提供了一种新的方法来估算高维梯度和批处理输入数据之间的互信息。实验结果表明，该指标可靠地反映了联邦学习中信息泄露的程度，并证明了风险程度与任务模型状态以及内在数据分布相关。

Feb, 2021

盲目图像质量评估的排序学习

本文提出一种新的方法，利用偏好图片对来训练盲图像质量评估模型，这些偏好标签可在很低的成本下产生，实验表明该方法具有良好的性能且易于扩展。

Sep, 2013

面向联邦学习的通用深度泄露

该研究论文研究了联邦学习中的数据隐私问题，提出了一种从共享梯度或权重中恢复训练数据的方法，并使用方法在 CIFAR-10 和 ImageNet 等图像基准上进行了实验，超过了现有的 GradInversion 技术。

Oct, 2021

梯度混淆在联邦学习中会产生虚假的安全感

本文提出针对联邦学习中的图像分类任务的新型数据重构攻击框架，并证明了通常采用的梯度后处理程序可能会给联邦学习中的数据隐私保护带来虚假的安全感。作者设计了一种基于语义级数据重构的新方法，并与传统的基于图像相似度分数的方法进行了比较。结果表明，需要重新审视和重新设计现有联邦学习算法中客户端数据隐私保护机制的重要性。

Jun, 2022

强化优化的时间梯度反转攻击

本文介绍了一种名为 TGIAs-RO 的新型 Gradient Inversion Attacks 攻击方式，采用多重时间梯度来恢复本地客户端保留的私有数据，能够有效克服瓶颈，提高重构性能和鲁棒性，同时启发了更多关于联邦学习中隐私保护方法的探索。

Jun, 2023

盲目图像质量评估的持续学习

本研究提出了一种针对 BLQA 的基于连续学习的模型，以提高模型的适应性和稳定性，通过新的预测头和正则化器来实现在不断增长的数据流中不断学习并避免灾难性遗忘，在所有预测头的估计的自适应加权求和得出最终图像质量评分。

Feb, 2021