ICCVMar, 2017

基于博弈论的对抗性图像干扰用于隐私保护

PDF
TL;DR研究表明采用对抗性图像扰动（AIP）可以在不影响图像质量的情况下有效地混淆识别系统，但未知对策时 AIP 效果不确定，因此引入了博弈论框架来研究用户和识别器之间的交互，并推导出用户的最优策略以确保识别率上限是独立于识别器的对策选择的。
social mediaimage perturbationscounter measuresgame theoryperson recognition techniques
发现论文，激发创造
  • 对抗性隐私保护过滤器

    开发了面向在线多媒体共享隐私保护的对抗隐私保护过滤器（APF），其中采用了一种以端云协作为基础的对抗攻击框架，验证了其高效性和有效性。

    Jul, 2020

  • 对抗性人脸遮蔽

    该篇研究论文提出了一种名为 Face-Off 的隐私保护框架，旨在通过对用户面部进行策略性扰动来防止它被正确识别，该框架能够欺骗微软、亚马逊和 Face++ 等三种商业人脸识别服务，并且用户研究表明，所进行的扰动对用户的成本是可以接受的。

    Mar, 2020

  • 利用对抗样本实现人脸生物特征去识别

    本文评估了使用两种广为人知的敌对生成方法 (BIM and ILLC) 来去识别个人图像的效果，并发现使用几乎不可察觉的敌对扰动来达到高的保护成功率 (抑制识别率) 并不容易。最后，我们发现敌对样本的可转移性受其生成网络的训练参数的影响非常大。

    Feb, 2023

  • 生成对抗性身份口罩实现面部加密

    本文介绍了一种基于对抗性蒙版的身份保护技术（TIP-IM），该技术可以在保证视觉效果的情况下，对个人照片进行加密以保护用户的数据隐私。实验结果表明，TIP-IM 在不同实际测试场景下，能够提供超过 95% 的保护成功率，证明其在商业 API 服务中的实用性和有效性。

    Mar, 2020

  • 对抗性人脸合成

    该论文提出 AdvFaces，一种基于生成对抗网络 (GAN) 的自动化方法，用最小的扰动生成看似合法但实际上能够欺骗最新人脸识别系统的假冒人脸或模糊真正主题的攻击性人脸图像。

    Aug, 2019

  • 对抗图像篡改分析

    本文研究了简单易用的图像处理技术如何影响面部识别软件通过一个唯一的图像来识别一个人的各种面部图像，以应对随着虚拟和物理身份日益交织在一起，隐私和安全在在线领域中的重要性变得日益重要的情形。

    May, 2023

  • 隐匿明目之间：对抗性干扰扰乱人工智能人脸合成

    本研究通过在训练数据中添加微不可见的对抗干扰因素，破坏基于深度神经网络的人脸检测器的质量，从而防止个人受到最近利用 AI 合成的假面孔可能造成的负面社会影响。我们在白盒、灰盒和黑盒环境下描述了攻击方案，并在若干数据集上实证展示了我们的方法破坏最先进的基于 DNN 的人脸检测器的有效性。

    Jun, 2019

  • 感知不可辨识网络（PI-Net）：可操作语义的面部图像混淆

    研究提出了一种基于知觉不可辨别性 (PI) 的隐私保护机制，即 PI-Net，以保护图像数据集中的敏感信息，并提高隐私保护的效用，取得了显著的优势。

    Apr, 2021

  • 通过对抗训练实现隐私保护视觉识别：一项试点研究

    本文提出通过对图像进行优化来平衡隐私预算和目标任务分析性能的对抗训练框架，并且使用预算模型重启和集成策略来提高对新的黑客模型的保护性。通过使用两个隐私保护行动识别中的实验，该框架在同时维持高目标任务（行动识别）性能之余，成功抑制了隐私侵犯的风险。

    Jul, 2018

  • 预防性图像稳健处理以保护用户免受中间人攻击

    本论文提出了一种新颖的双层优化算法，该算法可以在自然图像环境下找到对抗扰动鲁棒的点，有效提高图像识别的鲁棒性。

    Dec, 2021