ICCVAug, 2023

LDP-Feat：带有局部差分隐私的图像特征

PDF
TL;DR现代计算机视觉服务经常要求用户与不受信任的服务器共享原始特征描述符，这带来隐私风险，为解决此问题，研究人员最近提出了通过将图像特征嵌入一个仿射子空间中从而使其包含原始特征及对抗特征样本来实现特征私有化。本文提出了两种新的反演攻击方法，证明从这些嵌入中可以（近似地）恢复原始图像特征，从而能够恢复敏感的图片内容。鉴于这样的成功和现有视觉隐私方法缺乏理论上的隐私保证，我们进一步提出了第一个通过局部差分隐私来实现图像特征私有化的方法，不同于先前的方法，该方法提供了一个隐私泄露的保证边界，无论攻击的强度如何。此外，我们的方法在视觉定位作为下游任务中表现出很强的性能，并享有隐私保证。
computer vision servicesprivacy riskembeddinginversion attackslocal differential privacy
发现论文，激发创造
  • 通过对抗性仿射子空间嵌入实现隐私保护的图像特征

    提出了一种隐私保护特征表示方法，通过嵌入原始特征和对抗特征样本的仿射子空间来消除每个特征描述符的约束并启用基于子空间距离的特征匹配，该方法可在视觉定位和建图以及人脸认证等应用中具有高的实用价值并显著增强对手窃取隐私信息的难度。

    Jun, 2020

  • 本地特征描述符的反向工程攻击分析与缓解

    研究自动驾驶和增强现实等应用所使用的本地特征描述符，发现在特定条件下可能会受到逆向工程攻击，进而模拟潜在的对手，并根据真实条件对 FREAK、SIFT 和 SOSNet 等流行描述符的易受攻击性进行了分析，提出了平衡隐私重构风险与图像匹配准确性的潜在缓解技术。

    May, 2021

  • 通过操纵潜空间实现差分隐私成像

    为了解决社交媒体、照片设备的普及，以及人脸识别系统的不断增加所带来的图像隐私问题，我们提出了一种基于未经条件训练的生成模型的潜在空间的图像混淆新方法，该方法能够合成高分辨率、逼真的面部图像，并以满足局部差分隐私的形式进行操作。据我们所知，这是首个满足人的 ε- 差分隐私的图像隐私方法。

    Mar, 2021

  • 隐私保护对抗性人脸特征

    本研究提出了一种基于对抗特征的面部隐私保护 (AdvFace) 方法，通过在对手模型中生成对抗性的潜在噪声来破坏从对抗性特征到面部图像的映射，生成隐私保护的对抗性特征来防御面部重建攻击。实验表明，AdvFace 在维护面部识别准确性的同时，比目前最先进的面部隐私保护方法更有效地防御重建攻击。

    May, 2023

  • 使用用户级差分隐私学习生成图像嵌入

    本文提出一种名为 DP-FedEmb 的联邦学习算法改进版本，用于训练大规模图像到嵌入特征提取器模型，包含虚拟客户端、部分聚合、私有本地微调和公共预训练等技术，能在相同的隐私预算下实现强隐私效用平衡，并且在 DigiFace、EMNIST、GLD 和 iNaturalist 数据集上展示了其卓越的效用性能。

    Nov, 2022

  • 通过图像字幕实现差分隐私表示学习

    在这项工作中，我们通过图像字幕和扩大到互联网规模的多模态数据集，通过一系列的工程技巧，成功地从头开始训练了一个差分隐私图像字幕生成器（DP-Cap），并获得了前所未有的高质量图像特征，可用于各种下游视觉和视觉语言任务。

    Mar, 2024

  • 图神经网络中的局部差分隐私：一种重建方法

    我们提出了一个基于图神经网络的学习框架，该框架可以在用户层面提供节点隐私，并且在损失效用性方面表现较低。我们使用分布式隐私保护的概念，并在节点水平对特征和标签数据应用随机化机制，在数据被中央服务器收集用于模型训练之前进行扰动。通过随机化数据的统计分析中的频率估计，我们开发了重构方法来逼近扰动数据的特征和标签。我们还形成了利用图聚类的频率估计来在子图层面监督训练过程的学习框架。在真实数据集和半合成数据集上进行了大量实验，证明了我们提出模型的有效性。

    Sep, 2023

  • 隐私保护与任务导向表征的对抗学习

    本文提出了一种对抗性重构学习框架，旨在学习一种以任务为导向的隐私保护表示，以防止模型反演攻击，采用负像素重构损失或负感知距离损失最小化来实现，展示了在面部属性预测任务中我们的方法可以在小幅度降低实用性的情况下保护视觉隐私，并提供了不同特征、任务和数据的广泛研究，以进一步分析它们对隐私保护的影响和效用 - 隐私权衡的关系。

    Nov, 2019

  • 利用差分隐私的隐私保护人脸识别

    本文提出了一种隐私保护技术，即 PEEP，该技术可对面部图像进行扰动以防止生物特征泄漏，并利用局部差分隐私的方法在第三方服务器上运行 Eigenface 识别算法。实验结果表明，PEEP 在标准隐私设置下的分类准确率约为 70％-90％。

    May, 2020

  • 使用可训练特征减法的隐私保护人脸识别

    基于图像压缩的灵感，本文提出了一种通过特征减法在原始面部图像和模型生成的再生图像之间创建视觉上无信息的面部图像的方法，通过对高维特征表示进行共同训练来鼓励图像中的可识别身份特征，通过随机通道混洗来增强隐私保护，得到了缺乏攻击者可利用的纹理细节的随机可辨认图像。我们将这些方法总结为一种新颖的隐私保护人脸识别方法 MinusFace，实验证明其具有高的识别准确性和有效的隐私保护。其代码可在此 URL 中获得。

    Mar, 2024