机器学习算法在日常生活中的不断整合凸显了它们在部署中公平和公正的关键需要。情感分析的自动化，在生理学、心理学和机器学习的交叉点上，取得了显著的发展。然而，现有的数据库和方法缺乏统一性，导致存在偏见的评估。本研究通过对六个情感数据库进行分析，注释人口属性，并提出了一种常见的数据库分割协议来解决这些问题。强调在评估中的公平性。通过基准和最先进的方法进行了广泛的实验证明了这些变化的影响，揭示了先前评估的不足之处。该研究结果强调了在情感分析研究中考虑人口属性的重要性，并为更加公平的方法学提供了基础。我们的注释、代码和预训练模型可以在此 https URL 引用。

May, 2024

本文探讨了使用情感一致性来测量决策中的情感偏见，并将其用于规范结果映射，从而解决交叉公正性中的三个关键问题：对公平性考虑的类别定义；无限回归成越来越小的组；基于基本人权或其他先前信息确保公正分配。

May, 2022

本文旨在调查研究自动化决策系统中机器学习算法存在的偏差及其与公平、隐私和分类准确性之间的关系，并综述了处理公平 - 准确性权衡的不同方法。作者通过实验分析了公平度量和准确度在现实世界场景中的关系。

Sep, 2022

这篇文章介绍了机器学习中的社会偏见和公平性问题，总结了预处理、处理和后处理等多种方法，包含二分类、回归、推荐系统、无监督学习和自然语言处理等多个方面，同时提供了多个开源库。最后，列举了公平性研究的四个难题。

Oct, 2020

调查表明，人工智能领域中存在各种偏见和不公，因此机器学习研究人员定义了公平性的分类，以解决现有 AI 系统中的偏见问题。此外，调查还考察了在 AI 的不同领域和子领域中，现有技术的问题及其应对措施，以期鼓励研究人员在其各自领域中研究此问题。

Aug, 2019

本文旨在探讨在临床精神病学中机器学习应用中公平性和偏见问题的探究以及解决策略，通过对临床精神卫生数据的预测，发现性别偏见的问题，并使用 AI Fairness 360 包中的重新加权和歧视感知正则化作为偏差消减策略，并探讨它们对模型性能的影响。这是第一次在真实的临床精神病学数据上应用偏见探索与消减的机器学习模型。

May, 2022

本文提出了基于人性化的 AI 机器学习需满足四个主要要求：效用和社会效益，隐私和数据所有权，透明度和问责制以及人工智能决策过程公平性。通过使用自然合成个人资料，该研究展示了当前基于多种信息源的模式的算法是如何受到敏感因素和内在偏见的影响，以及这将如何导致决策失公平性。同时，论文介绍了最近的技术和常用数据库，以消除深度学习结构中的偏见和敏感信息。

Feb, 2023

研究发现多模态情感识别系统存在系统性偏见，其中文本在所有模态中的偏见最小且在大多数情况下表现最好，提出多模态方法对于实现偏差和公正性并提高模型性能的价值存在疑问。

May, 2022

人工智能（AI）模型在我们的生活的各个方面得到广泛应用，如医疗、教育和就业。鉴于它们在许多敏感环境中使用并做出可能改变生活的决策，潜在的偏见结果成为一个紧迫问题。开发人员应确保这些模型不表现出任何意外的歧视做法，如对特定性别、种族或残疾人的偏袒。随着 AI 系统的广泛应用，研究人员和从业者对不公平的模型意识越来越强，并致力于减少其中的偏见。本文综述了研究人员在确保 AI 系统公平性方面所做的不同努力。我们探讨了当前文献中关于公平性的不同定义，通过对不同类型的偏见进行分类，研究了不同应用领域中存在的出现偏见的 AI 案例。我们对研究人员在减少 AI 模型偏见方面采用的方法和技术进行了详细研究。此外，我们还深入探讨了偏见模型对用户体验的影响以及在开发和部署此类模型时需要考虑的伦理问题。我们希望通过分享这份全面的综述，帮助研究人员和从业者理解 AI 系统中公平性和偏见的复杂问题。通过此综述，我们旨在促进公平和负责任 AI 领域的进一步讨论。

Mar, 2024

本篇研究通过开发公开基准来对不同的公平性增强算法进行比较，并发现许多公平性措施之间具有强烈的相关性，但这些措施也对数据集构成的波动敏感，这表明公平干预可能比以前认为的更脆弱。

Feb, 2018