面部识别系统数据审计
为了避免加剧或补充审计系统所传播的伤害,审计人员需要意识到更多的设计考虑和伦理紧张关系。本文针对商业人脸处理技术,展示了五个伦理问题,并提供了这些问题的具体例证,同时反思了这些问题对算法审计的作用和它们所揭示的基本产品局限性的意义。
Jan, 2020
该研究介绍了三种人脸访问模型,使用深假面替换未经批准的面孔,并提出了适用于此任务的新度量标准,通过在真实数据集和两个合成数据集上测试,证明了该系统的有效性,并对相似性度量、深假面生成器和数据集进行了广泛分析。
Nov, 2022
本文提出了一种隐私友好的大规模人脸识别替代方案,使用过自动抽取高质量人脸快照的方式以减少收集的个人数据。为此,本文开发了一个基于变分自编码器的无监督人脸图像质量评估方法,并通过实验验证了其有效性。
Jan, 2021
提出了一种端到端的面部图像检索框架,利用相关反馈逐步提供给目击者,对心理图像进行交互式和迭代式检索,无需额外注释,并进行 exttt {CelebA} 数据集上的实验证明,该模型在最佳设置下的排名百分位数可以达到 99%,可以成为进一步研究的基础。
Jul, 2020
提出了一个用于多个挑战性情景的视频人脸识别的鲁棒且高效的系统,包括人脸 / 标志检测、人脸关联和人脸识别等模块,特别是针对多镜头视频设计了精心的人脸关联方法,采用一种基于无监督子空间学习方法和子空间到子空间相似度度量的人脸匹配器来识别人脸,广泛实验表明该系统可以准确地检测和关联未约束的视频中的人脸,并有效地学习到具有鲁棒性和区分性的特征用于识别。
Dec, 2018
本论文提出了一种名为 Fawkes 的系统,它通过帮助用户在发布照片之前添加不可见的像素级变化(我们称之为 “隐身衣”)来帮助个人防范未经授权的人脸识别模型的侵犯,并在实验中验证其在保护用户隐私方面达到了 95%以上的成功率。
Feb, 2020
最近机器学习和计算机视觉的进展使得人脸识别的准确率超越了人类表现。然而,我们质疑这些系统在真实的法庭鉴定情景中是否能够有效应用,因为在这种情景下,图像往往是低分辨率、低质量且被部分遮挡。本研究构建了一个大规模的合成人脸数据集,并创建了一个控制的人脸法庭鉴定场景,通过这两者的结合,可以在一系列真实环境条件下对人脸识别进行控制性评估。通过使用这个合成数据集和一个包含真实人脸的流行数据集,我们评估了两个常见的基于神经网络的人脸识别系统的准确性。我们发现,在这种更具挑战性的法庭鉴定情景中,先前报道的超过 95% 的人脸识别准确率下降到了 65%。
Nov, 2023
本文研究了基于算法的面部识别系统的偏差和损害,通过比较学术模型和商业模型的噪声鲁棒性发现,学术模型在年龄和男性化性别方面的表现存在明显的种族和性别偏见,与商业模型相比,商业模型在公平性方面的表现并不理想。
Jan, 2022
本文通过对亿万级别的图片进行大规模的人脸识别实验,发现使用深度学习进行的人脸识别系统对于训练数据中的个体识别的准确率要高于其他个体,而目前的大规模人脸识别数据集的个人隐私意识缺失,对隐私造成了严重影响。
Jan, 2020