ICMLJul, 2018

通过对抗训练实现隐私保护视觉识别：一项试点研究

PDF
TL;DR本文提出通过对图像进行优化来平衡隐私预算和目标任务分析性能的对抗训练框架，并且使用预算模型重启和集成策略来提高对新的黑客模型的保护性。通过使用两个隐私保护行动识别中的实验，该框架在同时维持高目标任务（行动识别）性能之余，成功抑制了隐私侵犯的风险。
privacy-preserving visual recognitionadversarial trainingprivacy budgetstask-driven contextsprotection of privacy
发现论文，激发创造
  • 隐私保护深度行动识别：对抗学习框架和新数据集

    本文提出一种带有隐私保护机制的视频动作识别模型，通过敌对训练来寻找能够最佳平衡目标任务性能与隐私保护程度的匿名转换方法，并给出了两种优化策略以实现对于攻击模型的普适隐私保护。同时，构建了一种全新的视频数据集 PA-HMDB51，为视觉隐私研究提供了有力支持。

    Jun, 2019

  • 隐私保护与任务导向表征的对抗学习

    本文提出了一种对抗性重构学习框架，旨在学习一种以任务为导向的隐私保护表示，以防止模型反演攻击，采用负像素重构损失或负感知距离损失最小化来实现，展示了在面部属性预测任务中我们的方法可以在小幅度降低实用性的情况下保护视觉隐私，并提供了不同特征、任务和数据的广泛研究，以进一步分析它们对隐私保护的影响和效用 - 隐私权衡的关系。

    Nov, 2019

  • 隐私保护对抗性人脸特征

    本研究提出了一种基于对抗特征的面部隐私保护 (AdvFace) 方法，通过在对手模型中生成对抗性的潜在噪声来破坏从对抗性特征到面部图像的映射，生成隐私保护的对抗性特征来防御面部重建攻击。实验表明，AdvFace 在维护面部识别准确性的同时，比目前最先进的面部隐私保护方法更有效地防御重建攻击。

    May, 2023

  • 通过对抗训练学习隐私保护编码

    本研究提出一种框架，使用自然对抗优化的方法，通过训练编码器与私密属性分类器作为深度神经网络，在维护实用性的同时，抑制隐私属性的推理，本文的关键贡献是提出了一种稳定且收敛的优化方法，使得分类器不能够准确地预测私密属性，实验结果表明该方法能够对实际场景中的高维编码实现隐私保护。

    Feb, 2018

  • 只有我的模型与我的数据：一种保护模型并欺骗未经授权的黑盒模型的隐私保护方法

    通过生成可被人类感知的图像，本研究在保护模型准确推断的同时，回避其他类似或不同目标的非授权黑盒模型，以实现实际的隐私保护。

    Feb, 2024

  • 学习面部匿名化技术以保护隐私的动作检测

    该论文提出了一种新的方法来学习视频脸部匿名化，使用对抗训练设置，在像素级别修改以匿名化每个人的脸，以确保隐私敏感信息得到删除，并尽量减少对行动检测性能的影响。

    Mar, 2018

  • 具有自动转换搜索的隐私保护协作学习

    本论文提出了一种基于数据增强的解决方案，以防止敌对方从共享的梯度中恢复训练数据，文中使用创新的搜索方法发现数据增强策略，并使用两个新的度量指标来评估策略的影响，实验结果表明该方法能够高效地击败现有的重建攻击，对模型性能影响微不足道。

    Nov, 2020

  • 隐私保护对抗网络

    利用对抗性神经网络实现随机机制和互信息隐私的变分近似，优化隐私数据发布机制的信息论最优折衷方案，对合成数据和实际数据集 MNIST 进行了验证实验。

    Dec, 2017

  • 音频鲁棒隐私保护的对抗表示学习

    本研究提出了一种新的对抗性训练方法，用于生成语音含量音频的不变潜在表示，以有效防止从录音的潜在特征检测语音活动，缓解了隐私泄露的问题。

    Apr, 2023

  • 对抗性人脸遮蔽

    该篇研究论文提出了一种名为 Face-Off 的隐私保护框架，旨在通过对用户面部进行策略性扰动来防止它被正确识别，该框架能够欺骗微软、亚马逊和 Face++ 等三种商业人脸识别服务，并且用户研究表明，所进行的扰动对用户的成本是可以接受的。

    Mar, 2020