PASS: 面部识别中减轻偏见的保护属性抑制系统

ICCVAug, 2021

PASS: 面部识别中减轻偏见的保护属性抑制系统

PASS: Protected Attribute Suppression System for Mitigating Bias in Face Recognition

Prithviraj Dhar, Joshua Gleason, Aniket Roy, Carlos D. Castillo, Rama Chellappa

TL;DR本研究介绍一种名为 PASS 的描述符型对抗去偏置方法，该方法在不需要进行端到端训练的情况下，可以在同时分类身份和减少敏感属性编码的基础上，对来自任何先前经过高性能网络训练的描述符进行训练。经在 Arcface 等 SOTA 面部识别网络上进行降低的性别和肤色偏差测试，证明 PASS 描述符优于现有基线，并且仍然具有高的验证准确性。

Abstract

face recognition networks encode information about sensitive attributes while being trained for identity classification. Such encoding has two major issues: (a) it makes the face representations susceptible to privacy l

face recognition networks privacy leakage bias mitigation adversarial de-biasing descriptor

发现论文，激发创造

PrivacyNet: 多属性人脸隐私的半对抗网络

通过使用基于 GAN 的半对抗网络（PrivacyNet）的图像扰动方法，我们很好地实现了对输入面部图像进行软生物特征隐私的保护，在面部图像用于匹配目的时仍能够进行匹配，但无法可靠地被用于属性分类器。

Jan, 2020

通过潜空间去偏置实现公平的属性分类

本文介绍了一种使用 GAN 生成图像并在潜在空间中扰动以生成可以平衡每个受保护属性的训练数据的方法，以缓解由相关性所引起的偏差，通过在原始数据集上增加扰动生成的数据，实证证明训练结果准确且具有许多定量和定性上的优势。在 CelebA 数据集上进行了全面评估和分析，与现有文献进行了比较。

Dec, 2020

SABAF: 基于对抗滤波消除神经网络中的强属性偏差

该研究旨在提升公平和有保证的人工智能发展中，确保神经网络不依赖受保护属性（例如种族、性别、年龄）进行预测。通过分析现有属性偏差去除方法的局限性，研究发现其在面对强偏差时存在局限，并提出了一种能够缓解这种局限的新方法，该方法在输入空间中使用对抗目标，直接过滤掉受保护属性同时最大程度地保留其他属性，无需特定目标标签，并在强偏差和中等偏差设置下实现了最先进的性能。通过对合成、图像和人口普查数据集的广泛实验证明了理论界限的有效性，并评估了所提方法在消除强属性偏差方面的有效性。

Nov, 2023

SensitiveNets: 学习应用于人脸图像的不可知表示

本文提出了一种新颖的隐私保护神经网络特征表示方法，使得学习到的空间中的敏感信息得以削弱，同时保持数据的实用性；该方法不仅保证了用户数据的隐私，而且还提升了算法的公平性和结果的可行性。

Feb, 2019

通过生成代理敏感属性标签实现实际偏见缓解

通过提出的无监督代理敏感属性标签生成技术来解决在机器学习系统中的偏见问题，该方法包括无监督嵌入生成和聚类两个阶段，其有效性依赖于偏见通过与敏感属性相关的非敏感属性传播，并在高维潜在空间中映射为不同人口群体的聚类。实验结果表明，使用现有算法进行偏见缓解可以得到与真实敏感属性相比可比较的结果。

Dec, 2023

基于显著属性的人脸识别语义对抗攻击

本研究提出了一种新的语义对抗攻击方法 SAA-StarGAN，该方法基于余弦相似度或概率分数预测最重要的面部属性，并改变这些面部属性来进行对抗攻击。实验证明，该方法能够生成多样化和逼真的对抗性面部图像，并能够显著地提高对抗性样本的可迁移性。

Jan, 2023

通过对抗扰动匿名化 k 面部属性

本文提出了一种新颖的算法，通过对面部图像进行不可感知噪声的添加，从而实现对用户选择的关键属性的匿名化处理，既可以匿名关键属性，又能保护图像质量和身份信息。

May, 2018

朝向无需假设的偏见缓解

通过建模特征交互来检测相关属性以减轻偏见影响的无假设框架，大大减轻了机器学习模型中针对特定人群的歧视和不公平预测行为。

Jul, 2023

PrivPAS：实时隐私保护人工智能系统及应用伦理

介绍了一个名为 PrivPAS 的实时隐私保护人工智能系统，该系统能够鉴定敏感内容，并识别和定位可访问性标志，以及对残障人士进行分类。该软件不占用过多的内存，适用于资源受限设备，并在面部匿名数据上训练而成，拥有高 mAP（89.5％）和 F1 得分（73.1％）。

Feb, 2022

MaSS: 多属性选择性压制从信息论的角度实现数据的保用变换

我们提出了一个形式化的信息论定义，设计了一个可学习的数据转换框架，能够选择性地抑制目标数据集中的敏感属性，同时保留其他有用属性，无论其是否事先已知或明确注解以便保留。通过对多种模态的数据集进行全面的实验评估，包括人脸图像、语音音频片段和人体活动传感器信号，结果显示我们的方法在多种配置和任务下都具有有效性和普适性。

May, 2024