通过梯度累积增强隐形面部隐私披风的泛化能力

Jan, 2024

通过梯度累积增强隐形面部隐私披风的泛化能力

Enhancing Generalization of Invisible Facial Privacy Cloak via Gradient Accumulation

Xuannan Liu, Yaoyao Zhong, Weihong Deng, Hongzhi Shi, Xingchen Cui...

TL;DR社交媒体和人脸识别系统的普及增加了人们对隐私和安全的关注。我们提出了一种新型对抗性隐私披风技术，该技术适用于正常用户的所有图像，以防止恶意人脸识别系统获取其身份信息。我们还发现了现有方法中的优化困境，并提出了渐变累积（GA）来解决这些问题。实验证明，我们的方法在隐私 - 公用数据集上对黑盒人脸识别模型具有高性能。

Abstract

The blooming of social media and face recognition (FR) systems has increased people's concern about privacy and security. A new type of adversarial privacy cloak (class-universal) can be applied to all the images of regular users, to prevent malicious FR systems from acquiring their id

social media face recognition systems adversarial privacy cloak optimization dilemma gradient accumulation

发现论文，激发创造

AdvCloak: 面向隐私保护的定制对抗隐蔽技术

基于生成模型的隐私保护创新框架 AdvCloak 通过自动定制类别级对抗性遮蔽模型，在保持图像级自然性的同时提供改进的特征级泛化能力，进而解决社交媒体中广泛共享面部图像所带来的隐私问题。通过两阶段训练策略，这一框架不仅能够个性化适应独特的个人面部特征，还能提高面对个体间的面部差异时的特征级概括能力，并结合几种通用的几何建模方法来更好地描述源身份的特征子空间。此外，对常见和名人数据集进行的广泛定量和定性评估结果表明，AdvCloak 在效率和效果方面优于现有的最先进方法。

Dec, 2023

通过生成的渐变泄露审计联邦学习中的隐私防御

本文探讨了如何避免在联邦学习框架下，通过梯度信息泄露用户隐私的问题，并提出了一种名为生成梯度泄露的新型隐私泄露方法。作者为了解决这个问题，探讨了各种无梯度优化方法，并相对于梯度优化方法实现了更好的高质量图像重建效果。

Mar, 2022

梯度混淆在联邦学习中会产生虚假的安全感

本文提出针对联邦学习中的图像分类任务的新型数据重构攻击框架，并证明了通常采用的梯度后处理程序可能会给联邦学习中的数据隐私保护带来虚假的安全感。作者设计了一种基于语义级数据重构的新方法，并与传统的基于图像相似度分数的方法进行了比较。结果表明，需要重新审视和重新设计现有联邦学习算法中客户端数据隐私保护机制的重要性。

Jun, 2022

通过梯度聚合提升通用对抗干扰的泛化性能

本文研究了深度神经网络对通用对抗扰动（UAP）的脆弱性，提出了一种名为随机梯度聚合（SGA）的简单有效方法，用于缓解梯度消失和逃离贫弱局部最优问题，并证实在标准 ImageNet 数据集上表现优于其他最先进方法。

Aug, 2023

具有梯度修正的面部识别联邦学习

本研究提出 FedGC 框架，通过梯度修正和基于 softmax 的正则化器，实现人脸识别的联邦学习并提高隐私保护，实验证明 FedGC 在常用基准数据集上的性能达到了传统集中式方法的水平。

Dec, 2021

PrivacyGAN: 鲁棒的生成图像隐私

使用 VQGAN 和 StyleGAN 等图像生成技术，我们提出了一种名为 PrivacyGAN 的新方法来保护面部图像的隐私，同时保持图像的可用性，特别适用于社交媒体应用。我们的方法通过将原始图像在嵌入空间内向伪装图像进行移动来实现，该方法在保护隐私指标和鲁棒性评估方面表现出了有效性。

Oct, 2023

面向模型反演攻击的适应性混合遮蔽策略的隐私保护人脸识别

本文介绍了一种针对模型反演攻击的自适应混合遮蔽算法，通过在频域中使用自适应 MixUp 策略对人脸图像进行遮蔽，较传统方法获得更好的隐私保护和识别准确性。

Mar, 2024

一种用于脸部模糊化的保护实用性 GAN

本文提出了一种称为 UP-GAN 的实用性保持生成模型，它在提供有效的面部隐私保护的同时，保留了年龄、性别、肤色、姿势和表情等面部特征。我们展示了该方法在面部隐私保护和实用性保护方面取得了最佳表现。

Jun, 2019

强化优化的时间梯度反转攻击

本文介绍了一种名为 TGIAs-RO 的新型 Gradient Inversion Attacks 攻击方式，采用多重时间梯度来恢复本地客户端保留的私有数据，能够有效克服瓶颈，提高重构性能和鲁棒性，同时启发了更多关于联邦学习中隐私保护方法的探索。

Jun, 2023

重审梯度修剪：一种用于抵御梯度攻击的双重实现

协作学习是一种分布式学习框架，旨在通过共享梯度更新，保护用户隐私。然而，梯度反演攻击对协作学习构成严重的隐私威胁。现有的防御方法在隐私、效用和效率之间存在着很大的折衷。为了克服现有解决方案的缺点，我们提出了一种新的防御方法，双梯度修剪（DGP），基于梯度修剪，可以提高通信效率，同时保护协作学习的效用和隐私。我们的实验证明，DGP 能够有效地抵御最强大的梯度反演攻击，并在不牺牲模型效用的情况下降低通信成本。

Jan, 2024