Dec, 2023

AdvCloak: 面向隐私保护的定制对抗隐蔽技术

PDF
TL;DR基于生成模型的隐私保护创新框架 AdvCloak 通过自动定制类别级对抗性遮蔽模型，在保持图像级自然性的同时提供改进的特征级泛化能力，进而解决社交媒体中广泛共享面部图像所带来的隐私问题。通过两阶段训练策略，这一框架不仅能够个性化适应独特的个人面部特征，还能提高面对个体间的面部差异时的特征级概括能力，并结合几种通用的几何建模方法来更好地描述源身份的特征子空间。此外，对常见和名人数据集进行的广泛定量和定性评估结果表明，AdvCloak 在效率和效果方面优于现有的最先进方法。
privacy protectiongenerative modelsadversarial masksfeature-level generalizationgeometric modeling methods
发现论文，激发创造
  • DeepCloak: 遮挡深度神经网络模型以增强对抗性样本的鲁棒性

    本研究提出一种名为 DeepCloak 的防御性机制，通过识别和删除深度神经网络模型中多余的特征，限制攻击者生成对抗样本所需使用的维度，增强模型的抗干扰性能。实验结果表明，DeepCloak 能够提高最先进的深度神经网络模型对抗样本的性能。

    Feb, 2017

  • DeepPrivacy：一种用于人脸去识别的生成性对抗网络

    该研究提出了一种基于条件生成对抗网络的新型体系结构，可以在保留原始数据分布的同时自动地对图像中的人脸进行匿名处理，以隐私安全信息为基础生成图像实现了对图像中所有人脸的完全匿名化，并且引入了包括非传统姿势、遮挡脸部和背景变化巨大的人脸数据集。最后，该模型在保护图像隐私的同时也适合于进一步用于深度学习模型的训练。该模型是保证人脸匿名化的同时生成逼真图像的首个解决方案。

    Sep, 2019

  • 通过梯度累积增强隐形面部隐私披风的泛化能力

    社交媒体和人脸识别系统的普及增加了人们对隐私和安全的关注。我们提出了一种新型对抗性隐私披风技术，该技术适用于正常用户的所有图像，以防止恶意人脸识别系统获取其身份信息。我们还发现了现有方法中的优化困境，并提出了渐变累积（GA）来解决这些问题。实验证明，我们的方法在隐私 - 公用数据集上对黑盒人脸识别模型具有高性能。

    Jan, 2024

  • 隐私保护对抗性人脸特征

    本研究提出了一种基于对抗特征的面部隐私保护 (AdvFace) 方法，通过在对手模型中生成对抗性的潜在噪声来破坏从对抗性特征到面部图像的映射，生成隐私保护的对抗性特征来防御面部重建攻击。实验表明，AdvFace 在维护面部识别准确性的同时，比目前最先进的面部隐私保护方法更有效地防御重建攻击。

    May, 2023

  • PuFace: 面向人脸识别模型的抵御面部遮挡攻击

    PuFace 是一种图像净化系统，利用神经网络的泛化能力通过将带有面部覆盖的图像推向自然（不带覆盖的）图像的流形，减小覆盖的影响，并通过特别放大的覆盖图像进行训练，成功地防御了两种先进的面部覆盖攻击，将攻击成功率从 69.84％降低到 7.61％，而不降低各种面部识别模型的正常准确性。此外，PuFace 是一种与模型无关的防御机制，可应用于任何面部识别模型而不修改模型结构。

    Jun, 2024

  • CLIP2Protect：使用文本引导化妆与对抗潜在搜索保护面部隐私

    提出了一种基于生成模型的低维流形中的对抗潜在编码来保护面部隐私的方法，该方法利用用户定义的化妆文本提示和保存身份信息的正则化来引导对潜在空间中的对抗编码的搜索，实验结果表明该方法的人脸隐私保护效果优于现有技术。

    Jun, 2023

  • 对抗性人脸合成

    该论文提出 AdvFaces，一种基于生成对抗网络 (GAN) 的自动化方法，用最小的扰动生成看似合法但实际上能够欺骗最新人脸识别系统的假冒人脸或模糊真正主题的攻击性人脸图像。

    Aug, 2019

  • Fawkes：保护用户隐私免受未授权深度学习模型侵害

    本论文提出了一种名为 Fawkes 的系统，它通过帮助用户在发布照片之前添加不可见的像素级变化（我们称之为 “隐身衣”）来帮助个人防范未经授权的人脸识别模型的侵犯，并在实验中验证其在保护用户隐私方面达到了 95％以上的成功率。

    Feb, 2020

  • 对抗性隐私保护过滤器

    开发了面向在线多媒体共享隐私保护的对抗隐私保护过滤器（APF），其中采用了一种以端云协作为基础的对抗攻击框架，验证了其高效性和有效性。

    Jul, 2020

  • 对抗性人脸遮蔽

    该篇研究论文提出了一种名为 Face-Off 的隐私保护框架，旨在通过对用户面部进行策略性扰动来防止它被正确识别，该框架能够欺骗微软、亚马逊和 Face++ 等三种商业人脸识别服务，并且用户研究表明，所进行的扰动对用户的成本是可以接受的。

    Mar, 2020