该研究提出了一种新颖的无监督公平得分归一化方法,用于减少面部识别中的偏见,并导致显着的总体性能提升。实验结果表明,这种方法可以降低性别等群体的偏见,并且相比现有方法更加一致地减少了这种偏见,同时也可以增强总体性能。
Feb, 2020
该研究介绍了一种名为公平校准的后训练方法,用以减少面部识别模型中的偏见,并提高模型准确性和公平性,同时避免再训练、再调整模型以及敏感数据泄露等问题。
Jun, 2021
公平人脸识别通过学习具有一般化效果的不变特征来应对真实世界观察中无偏常见的人口属性,其中存在偏差效应导致模型在少数群体中泛化效果不佳。我们指出这种偏差是由于潜在的人口属性导致不准确的特征学习,而这种混淆效应只能通过因果干预和消除潜在的人口属性才能解决。为了解决这个问题,我们提出了一种无监督生成多样性数据的分区方法,并结合两种强基准方法(Arcface 和 CIFP)与不变特征正则化(INV-REG)相结合,取得了新的最先进的结果,在各种人口群体中改善了人脸识别性能。
Oct, 2023
通过深入分析,本文重点讨论了涉及种族、年龄和性别等因素的交叉偏见问题,提出了在当前文献中较少探索的种族、年龄和性别组合方面的性能差异。此外,本文在定量分析中引入了五个补充指标,包括不公平影响和不公平待遇指标,以克服当前主流方法中常被忽视的重要局限。研究结果表明,人脸识别系统存在普遍偏见,不仅限于种族,不同的人口统计因素导致显著不同的结果。通过揭示这些偏见及其影响,本文旨在促进进一步研究,以开发更公正、更公平的人脸识别和验证系统。
Jul, 2023
分析了面部属性对人脸识别系统的影响,探讨了人口统计学以外的因素如饰品、发型、脸型等在身份验证性能方面的影响,提出了进一步增强人脸识别系统鲁棒性、可解释性和公平性的需求。
Mar, 2021
通过同时考虑特征、损失和优化方面,我们提出了第一个在深度假像检测中解决公平性泛化问题的方法,采用解缠学习提取人口统计和领域无关的伪造特征,并将它们融合在一起,以在交叉领域的深度假像检测中鼓励公平学习。在知名深度假像数据集上进行的广泛实验证明了我们方法在保持公平性方面的有效性,超过了现有技术水平。
Feb, 2024
本文提出了一种新的算法来训练公平的 deepfake detection model,以解决使用偏见的数据训练深度学习模型可能会导致不公平表现的问题。实验结果表明,该方法可以提高 deepfake detection 的公平性和鲁棒性。
Jun, 2023
本研究提出了一种新的度量方法,用于评估多类多人口统计分类问题中面部表情识别中的代表性和刻板印象偏见以及训练模型的残余偏见。这些度量结合在一起,可以用于研究和比较不同的偏见缓解方法。在对 Affectnet 数据集进行分析后,我们发现其中存在巨大的种族偏见和性别定型,并提供了不同人口统计属性的不同子集来训练模型。
May, 2022
旨在学习公平的面部表征,使用自适应卷积核和注意机制对不同人群的面部特征进行分类,提出了自适应模块来激活区分不同人口属性的脸部区域并减轻识别偏差,提出了新的去偏差损失函数,大量实验证明该方法能够有效减轻面部识别偏差。
Jun, 2020
本篇研究旨在提出一种新算法,用于学习公平的表征,以在分类环境下同时缓解不同人口统计特征子组之间的两种不平等概念。通过平衡误差率和条件对齐的表征等两个关键组件,它对确保跨组别的准确平等性和平衡假阳性和假阴性率发挥了作用。此外,我们还通过理论和两个实际实验证明,与现有的学习公平表征的算法相比,在平衡数据集上提出的算法可以在保持效用公平性的前提下得到更好的公平性。
Oct, 2019