May, 2024

构建桥梁：接近公平和一致情绪分析的协议

PDF
TL;DR机器学习算法在日常生活中的不断整合凸显了它们在部署中公平和公正的关键需要。情感分析的自动化，在生理学、心理学和机器学习的交叉点上，取得了显著的发展。然而，现有的数据库和方法缺乏统一性，导致存在偏见的评估。本研究通过对六个情感数据库进行分析，注释人口属性，并提出了一种常见的数据库分割协议来解决这些问题。强调在评估中的公平性。通过基准和最先进的方法进行了广泛的实验证明了这些变化的影响，揭示了先前评估的不足之处。该研究结果强调了在情感分析研究中考虑人口属性的重要性，并为更加公平的方法学提供了基础。我们的注释、代码和预训练模型可以在此 https URL 引用。
machine learning algorithmsfairnessequityaffective databasesdemographic attributes
发现论文，激发创造
  • 情感计算中偏见和公平性的心理测量与计算视角整合：自动视频面试的案例研究

    本研究基于心理测量学的原则，对机器学习应用于情感计算的偏差和公平性进行了论述，讨论了测试公平性和偏置的各种方法和指标，并提供了自动化个性化和招聘推理的案例研究。

    May, 2023

  • 探究面部表情识别中的偏见与公正

    本文研究了人脸表情识别中的偏见与公平性问题，并对三种不同的方法在两个不同数据集上进行了比较，结果表明，使用数据增强的属性感知方法和解缠方法比基线方法更具准确性和公平性，在减轻人口统计学偏见方面，解缠方法是最好的选择。

    Jul, 2020

  • 使用情感规范化实现自动决策中的公平性的新方法

    本文探讨了使用情感一致性来测量决策中的情感偏见，并将其用于规范结果映射，从而解决交叉公正性中的三个关键问题：对公平性考虑的类别定义；无限回归成越来越小的组；基于基本人权或其他先前信息确保公正分配。

    May, 2022

  • 评估基于数据集到模型的人口统计偏差转移：以面部表情识别为例的案例研究

    本研究提出了一种新的度量方法，用于评估多类多人口统计分类问题中面部表情识别中的代表性和刻板印象偏见以及训练模型的残余偏见。这些度量结合在一起，可以用于研究和比较不同的偏见缓解方法。在对 Affectnet 数据集进行分析后，我们发现其中存在巨大的种族偏见和性别定型，并提供了不同人口统计属性的不同子集来训练模型。

    May, 2022

  • 关于公平感知机器学习数据集的调查

    本文概述了应用于公平感知机器学习中的真实世界数据集，并使用贝叶斯网络分析数据特征之间的关系，进一步进行了探索性分析。

    Oct, 2021

  • 面部分析中的偏差解剖

    本文提出了用于面部分析的偏差检测 / 估计和减轻算法，并对已提出的偏差检测算法进行了系统综述。其主要贡献是对现有的偏差缓解算法进行了分类和广泛的概述。我们还讨论了偏差面部分析领域中的开放挑战。

    Dec, 2021

  • 机器学习中的公平性与医疗保健中的公平性相遇

    本研究提出了一种基于软件工程原理的人工智能框架，用于在保证医疗保健公平的同时识别和缓解数据和模型中的偏见和歧视，通过案例研究表明数据中的系统性偏见会导致模型预测中的偏差增大，并提出了机器学习方法来预防这种偏见。未来的研究目标是在实际的临床环境中测试和验证所提出的 ML 框架，以评估其在促进健康公平方面的影响。

    May, 2023

  • 多模态情感检测算法的偏差与公正

    研究发现多模态情感识别系统存在系统性偏见，其中文本在所有模态中的偏见最小且在大多数情况下表现最好，提出多模态方法对于实现偏差和公正性并提高模型性能的价值存在疑问。

    May, 2022

  • 解决面部情感识别中的种族偏见

    在深度学习模型使用高维输入和主观标签进行训练时，公正性依然是一个复杂且缺乏研究的领域。面部情绪识别是一个数据集往往存在种族不平衡问题的领域，可能导致模型在不同种族群体之间产生不同的结果。本研究聚焦于通过对具有多样种族分布的训练集进行子采样，以及评估这些模拟中的测试性能来分析种族偏见。我们的发现表明，较小的数据集中的伪造面孔可以在接近种族平衡的模拟中提高公正性和性能指标。值得注意的是，F1 分数平均增加了 27.2 个百分点，人口统计学平等指标平均增加了 15.7 个百分点。然而，在具有更多面部变化的较大数据集中，公正性指标通常保持不变，这表明仅仅种族平衡是无法在不同种族群体之间实现测试性能的平等的。

    Aug, 2023

  • 机器学习中的公平性：一项调查

    这篇文章介绍了机器学习中的社会偏见和公平性问题，总结了预处理、处理和后处理等多种方法，包含二分类、回归、推荐系统、无监督学习和自然语言处理等多个方面，同时提供了多个开源库。最后，列举了公平性研究的四个难题。

    Oct, 2020