ICLRJan, 2021

LowKey: 利用对抗攻击保护社交媒体用户免受面部识别的侵害

PDF
TL;DR该文研究了面部识别系统，并提出了可以应对这种系统的对抗滤镜，实验表明这种滤镜可以有效的通过包含面部检测和大规模数据库的工业流水线，同时发布了易于使用的 Web 工具来降低 Amazon Rekognition 和 Microsoft Azure Face Recognition API 的准确性。
facial recognition systemsadversarial filterimage processing pipelinemass surveillance programsface detection
发现论文，激发创造
  • 对抗性人脸遮蔽

    该篇研究论文提出了一种名为 Face-Off 的隐私保护框架，旨在通过对用户面部进行策略性扰动来防止它被正确识别，该框架能够欺骗微软、亚马逊和 Face++ 等三种商业人脸识别服务，并且用户研究表明，所进行的扰动对用户的成本是可以接受的。

    Mar, 2020

  • 利用对抗样本实现人脸生物特征去识别

    本文评估了使用两种广为人知的敌对生成方法 (BIM and ILLC) 来去识别个人图像的效果，并发现使用几乎不可察觉的敌对扰动来达到高的保护成功率 (抑制识别率) 并不容易。最后，我们发现敌对样本的可转移性受其生成网络的训练参数的影响非常大。

    Feb, 2023

  • 人脸识别系统的对抗性光照投影攻击：可行性研究

    本文使用基于深度学习的对抗光投影攻击系统在人脸识别领域进行了实时物理攻击的实验，证实了人脸识别系统在白盒和黑盒攻击设置下均易受到对抗攻击的威胁。

    Mar, 2020

  • FoggySight: 面部查找隐私方案

    该研究提出了一种名为 FoggySight 的解决方案，通过诸如对抗机器学习算法等方式，在图片上传到社交媒体之前，以保护个人隐私的方式，对人脸图片进行修改。FoggySight 的核心特征是共同保护策略，参与者可以作为其他用户隐私的保护者，上传由对抗性机器学习算法生成的诱骗图片，以保护面部隐私，包括防止具有未知内部结构的人脸识别服务的侵害。

    Dec, 2020

  • 隐私保护对抗性人脸特征

    本研究提出了一种基于对抗特征的面部隐私保护 (AdvFace) 方法，通过在对手模型中生成对抗性的潜在噪声来破坏从对抗性特征到面部图像的映射，生成隐私保护的对抗性特征来防御面部重建攻击。实验表明，AdvFace 在维护面部识别准确性的同时，比目前最先进的面部隐私保护方法更有效地防御重建攻击。

    May, 2023

  • 对抗性隐私保护过滤器

    开发了面向在线多媒体共享隐私保护的对抗隐私保护过滤器（APF），其中采用了一种以端云协作为基础的对抗攻击框架，验证了其高效性和有效性。

    Jul, 2020

  • 对抗图像篡改分析

    本文研究了简单易用的图像处理技术如何影响面部识别软件通过一个唯一的图像来识别一个人的各种面部图像，以应对随着虚拟和物理身份日益交织在一起，隐私和安全在在线领域中的重要性变得日益重要的情形。

    May, 2023

  • 面部识别系统中的对抗样本生成方案

    利用自编码器潜在空间和主成分分析，本研究分析面部识别系统对抗性示例的脆弱性以及其对最新系统的规避和冒充攻击的潜在影响。尽管结果没有支持最初的假设，但为对抗性示例的生成带来了新的洞见，并开辟了该领域的新的研究方向。

    Apr, 2024

  • 探究黑盒对人脸识别的对抗攻击可感知性

    在人类面孔识别系统广泛应用的背景下，本研究通过实测数据，对比了面部识别黑匣子对抗攻击的有效性和人类感知后的可感知性之间的权衡取舍，证明了随着攻击越来越激进，攻击的可感知性存在权衡取舍，同时也揭示了 L2 和其他指标与人类感知不成线性关系的事实。

    Jul, 2021

  • 通过形变优化基于面部一次性生物特征的密钥选择

    通过在信号水平上选择关键策略，提出一种竞争式可取消方案的安全改进，以防止对人脸识别系统的敌对攻击。实验结果表明，基于最安全阈值的某些策略可以完全阻止迭代优化的敌对攻击，而对于最实用的阈值，攻击成功率可降低到约 5.0%。

    Oct, 2023