Apr, 2020

SensitiveLoss: 利用具有鉴别感知深度学习方法提高人脸表征的准确度与公平性

PDF
TL;DR通过提出一种歧视感知学习方法，该方法可以改善偏差人脸识别算法的准确性和公平性。该方法表明，基于最常用的人脸数据库的学习过程导致了一个强大的算法性别和种族歧视的深度人脸模型，而提出的 Sensitive Loss 方法可以用于改进网络的性能，从而防止自动系统的歧视影响。
discrimination-aware learningbiased face recognitiondeep learningalgorithmic discriminationfairness
发现论文，激发创造
  • SensitiveNets: 学习应用于人脸图像的不可知表示

    本文提出了一种新颖的隐私保护神经网络特征表示方法，使得学习到的空间中的敏感信息得以削弱，同时保持数据的实用性；该方法不仅保证了用户数据的隐私，而且还提升了算法的公平性和结果的可行性。

    Feb, 2019

  • 算法歧视：基于深度学习人脸生物特征识别的表述和探索

    本研究使用包含 6 个不同族裔的 24K 身份的新 DiveFace 数据库进行了面向深度学习的人脸识别的全面研究和性能分析，并证明了流行面孔数据库高度代表性的族群，导致预先训练的深度面部模型具有很强的算法歧视性，该歧视性可以定性地观察到深度模型的特征空间以及在不同族裔群体中应用这些模型时存在的性能差异。

    Dec, 2019

  • 深度伪造检测中公平性的提高

    本文提出了一种新的算法来训练公平的 deepfake detection model，以解决使用偏见的数据训练深度学习模型可能会导致不公平表现的问题。实验结果表明，该方法可以提高 deepfake detection 的公平性和鲁棒性。

    Jun, 2023

  • 公正感知学习与无偏表示

    本研究提出一种新算法，可以识别和处理潜在的歧视因素，确保机器学习模型的公平性，从而提高模型性能，实现非歧视分类和回归任务。

    Feb, 2020

  • 迈向更公平的人脸识别数据集

    利用生成的训练数据集中的人口属性平衡机制，提出了一种全面的评估方法，旨在促进更公平、透明的人脸识别和验证，并发现在减少人口属性不公平的同时，性能差距仍然存在。

    Jun, 2024

  • 利用视觉语言驱动的图像增强提高公平性

    本文提出了一种方法，通过学习语义空间中可解释和有意义的路径来减轻深度学习区分模型中的相关性，以提高公平性。通过编辑受保护特征（如年龄和肤色），将这些路径应用于增强图像，从而改善给定数据集的公平性。

    Nov, 2023

  • 解决面部情感识别中的种族偏见

    在深度学习模型使用高维输入和主观标签进行训练时，公正性依然是一个复杂且缺乏研究的领域。面部情绪识别是一个数据集往往存在种族不平衡问题的领域，可能导致模型在不同种族群体之间产生不同的结果。本研究聚焦于通过对具有多样种族分布的训练集进行子采样，以及评估这些模拟中的测试性能来分析种族偏见。我们的发现表明，较小的数据集中的伪造面孔可以在接近种族平衡的模拟中提高公正性和性能指标。值得注意的是，F1 分数平均增加了 27.2 个百分点，人口统计学平等指标平均增加了 15.7 个百分点。然而，在具有更多面部变化的较大数据集中，公正性指标通常保持不变，这表明仅仅种族平衡是无法在不同种族群体之间实现测试性能的平等的。

    Aug, 2023

  • 基于偏倚和去偏倚的方法实现公平知识传递，用于公平皮肤分析

    基于深度学习模型的皮肤疾病诊断中，为了解决公平性问题且不损害预测准确性，我们提出了一种基于两个偏倚的教师模型的方法，通过权重损失函数进行偏倚与去偏倚的训练，提高了模型的准确度和公平性。

    May, 2024

  • 无需人口统计实现皮肤疾病诊断的公平性

    在医学图像诊断中，公平性变得越来越重要。本文提出了一种方法，在测试阶段实现对敏感属性的公平预测，而无需在训练过程中使用此类信息，并通过增强模型特征和规范特征的纠缠关系来提高公平性和准确性。实验结果表明，在两个皮肤病数据集中，该方法能够提高分类的公平性。

    Jan, 2024

  • 抗噪公平分类

    本文研究了含有噪声敏感特征的公平机器学习算法，表明当使用均值差异分数作为公平性量度标准时，只需通过调整所需的公平容错率即可仍然学习出公平分类器，该容错率可以通过现有噪声率估计器进行估计，并在两个敏感特征审查案例研究中得到实证有效性。

    Jan, 2019