CVPRApr, 2023

梯度注意平衡网络：通过梯度注意力缓解人脸识别的种族偏见

PDF
TL;DR提出了一种新的基于梯度注意力的去偏置方法，称为 Gradient Attention Balance Network (GABN)，通过将面部识别网络的梯度注意力图用于跟踪敏感的面部区域，并通过对抗性学习使不同种族的梯度注意力图趋于一致，该方法通过使网络专注于相似的面部区域来缓解偏见。同时，该方法还使用口罩来擦除前 N 个敏感面部区域，迫使网络将其注意力分配到更大的面部区域，扩大了皮肤较暗的人的敏感区域，进一步减少了皮肤较暗的人的梯度注意力图和高加索人的梯度注意力图之间的差距。广泛的实验证明，GABN 成功地减轻了面部识别中的种族偏见，并为不同种族的人学习到更平衡的表现。
face recognitionracial biasgradient attentionsensitive regionsdebias method
发现论文，激发创造
  • 使用偏度感知强化学习来减少人脸识别中的偏见

    通过提出自适应边界的想法，构建了一个基于深度 Q 学习的 Race Balance Network (RL-RBN) 以及两个面部识别数据集，用以研究数据和算法层面的种族偏差，实验结果表明该方法成功减小了种族偏差并且学习到了更平衡的表现。

    Nov, 2019

  • 通过群体自适应分类器缓解人脸识别偏差

    旨在学习公平的面部表征，使用自适应卷积核和注意机制对不同人群的面部特征进行分类，提出了自适应模块来激活区分不同人口属性的脸部区域并减轻识别偏差，提出了新的去偏差损失函数，大量实验证明该方法能够有效减轻面部识别偏差。

    Jun, 2020

  • 使用梯度加权类激活映射引导 DNN 的注意力进行人脸属性分类

    本文提出一种交互式的方法，通过手动指定区域，让分类器注意到这些区域，以减轻共现偏差对预训练深度神经网络的影响，在 CelebA 数据集上测试并 fine-tuned 预训练 AlexNet 以关注指定的面部属性。

    May, 2019

  • 公平人脸识别的元平衡网络

    本文针对深度人脸识别在肤色判别方面的争议，提出了基于肤色匹配训练数据和学习自适应边距的元学习算法以缓解算法偏差，并提供了 Identity Shades (IDS) 数据库、BUPT-Globalface 以及 BUPT-Balancedface 数据集。实验结果表明，该算法有效缓解了肤色偏差并实现了更加平衡的人脸识别性能。

    May, 2022

  • 通过梯度累积增强隐形面部隐私披风的泛化能力

    社交媒体和人脸识别系统的普及增加了人们对隐私和安全的关注。我们提出了一种新型对抗性隐私披风技术，该技术适用于正常用户的所有图像，以防止恶意人脸识别系统获取其身份信息。我们还发现了现有方法中的优化困境，并提出了渐变累积（GA）来解决这些问题。实验证明，我们的方法在隐私 - 公用数据集上对黑盒人脸识别模型具有高性能。

    Jan, 2024

  • SGBANet：用于任意方向场景文本识别的语义 GAN 和平衡注意力网络

    本文提出一种新的场景文本识别方法，采用基于语义的生成对抗网络和平衡注意力网络相结合的方法，通过支持域和目标域之间的语义特征对齐，以及应用注意力平衡模块来解决注意力漂移问题，实现对文本图像的准确识别。

    Jul, 2022

  • 点云分析的梯度关注模块优化

    本文提出了一种基于梯度的局部注意力模块，即梯度注意力模块（GAM），以解决点云分析中现有局部特征融合不足的问题，并在五个数据集上进行了全面实验以证明其有效性和泛化能力，尤其在 S3DIS 数据集上表现最佳，精确度、全局准确率、平均精确度分别达到 74.4％/90.6％/83.2％。

    Mar, 2023

  • 野外环境中的种族面孔：信息最大化适应网络降低种族偏见

    本文针对深度人脸识别中的种族偏见问题进行了研究，首先构建了一个名为 RFW 的专门数据集，验证了四个商业 API 和四个 SOTA 算法的种族偏差，并提出了一种使用深度无监督领域自适应的解决方案，并通过 “信息最大化自适应网络”（IMAN）将高加索作为源领域，其他种族作为目标领域，对这种偏见进行了缓解。该方法同时在全局层面上对其进行调整以减少领域级别的种族差距，并在聚类级别上学习判别性目标特征。通过在 RFW、GBU 和 IJB-A 数据库上进行广泛实验，表明 IMAN 成功地学习了能够跨不同种族和不同数据库进行良好泛化的功能。

    Dec, 2018

  • 基于特征引导梯度反向传播的可解释人脸验证

    该研究探索人脸图像与其深度表示之间的空间关系，并提出了一种新的解释方法 FGGB，通过梯度反向传播生成准确且深入的相似性和差异性显著性地图，用以解释人脸识别系统的 “接受” 和 “拒绝” 决策。视觉展示和定量测量表明，FGGB 在相似性和差异性显著性地图方面的性能优于当前最先进的可解释人脸验证方法。

    Mar, 2024

  • GAT 是否失衡？

    基于图神经网络 (Graph Neural Networks) 的优化和学习动态尚未被广泛探索，本研究通过分析图注意力网络 (Graph Attention Network) 提出的保守定律解释了标准初始化中参数变动困难的现象，并提出了一种初始化方案来平衡图注意力网络，使得深层网络更易于训练并加速收敛速度。

    Oct, 2023