隐私保护对抗网络
本文提出了一种对抗性重构学习框架,旨在学习一种以任务为导向的隐私保护表示,以防止模型反演攻击,采用负像素重构损失或负感知距离损失最小化来实现,展示了在面部属性预测任务中我们的方法可以在小幅度降低实用性的情况下保护视觉隐私,并提供了不同特征、任务和数据的广泛研究,以进一步分析它们对隐私保护的影响和效用 - 隐私权衡的关系。
Nov, 2019
本文研究了隐私保护深度学习机制对于各种形式的隐私攻击的能力,提出了通过重构、追踪和成员攻击量化测量模型准确性和隐私损失之间的权衡,针对重构攻击提出了解决带有噪声的线性方程组的新颖方法,通过 SPN 技术解决了现有 PPDL 方法面临的隐私攻击对其构成的严重挑战,实验表明在数据隐私得到满意保护的情况下,模型的准确性平均提高了 5-20%。
Jun, 2020
本研究探讨基于表示学习和深度神经网络的匿名化方法,介绍了一种新的训练目标,同时训练一个预测器和防止中间表征成为私有标签的预测值。该三子网络的基架对应输入到表征、表征到预测的常规标签和表征到预测的私有标签。在保留有关常规标签的信息的同时,摒弃与身份有关的私人标签信息的学习表征,从而实现了有关分类与匿名化任务(手写数字和情感分析)的成功演示。
Feb, 2018
该研究提出了一种感知对抗网络(PAN)模型,通过将生成性对抗丢失和感知对抗丢失相结合,用于解决图像到图像的转换任务,并在多个任务上的实验中表现出优于许多相关的现有方法。
Jun, 2017
该研究提出了一种基于条件生成对抗网络的新型体系结构,可以在保留原始数据分布的同时自动地对图像中的人脸进行匿名处理,以隐私安全信息为基础生成图像实现了对图像中所有人脸的完全匿名化,并且引入了包括非传统姿势、遮挡脸部和背景变化巨大的人脸数据集。最后,该模型在保护图像隐私的同时也适合于进一步用于深度学习模型的训练。该模型是保证人脸匿名化的同时生成逼真图像的首个解决方案。
Sep, 2019
本文提出了一种名为 “判别性对抗隐私”(DAP)的新型学习技术,该技术通过达到模型性能、速度和隐私之间的平衡来解决 DP 的局限性。DAP 依靠对抗训练,基于一种新的损失函数,该函数能够最小化预测误差并最大化 MIA 的误差。此外,我们引入了一种名为 “准确性隐私权”(AOP)的新指标来捕捉性能 - 隐私权衡。最后,为了验证我们的观点,我们将 DAP 与不同的 DP 情景进行比较,并从性能、时间和隐私保护角度分析结果。
Jun, 2023
通过生成可被人类感知的图像,本研究在保护模型准确推断的同时,回避其他类似或不同目标的非授权黑盒模型,以实现实际的隐私保护。
Feb, 2024
本文提出通过对图像进行优化来平衡隐私预算和目标任务分析性能的对抗训练框架,并且使用预算模型重启和集成策略来提高对新的黑客模型的保护性。通过使用两个隐私保护行动识别中的实验,该框架在同时维持高目标任务(行动识别)性能之余,成功抑制了隐私侵犯的风险。
Jul, 2018