本研究针对自动决策系统公平性评估中常被忽略的风险和福利考虑提出了一种基于福利的公平性度量方法，其凸形式允许我们将其作为任何凸损失优化流程的约束条件进行集成，并通过实证分析揭示了与预测准确性、群体歧视和个体公平性之间的有趣权衡关系。该方法是第一个能够限制个体不平等性的计算机可行机制。

Jun, 2018

提出了一种新的公平学习框架，该框架通过调查人们对于玄学公正性的评估来学习对于决策上下文的考虑，并使利益相关者参与到机器学习公平性的制定中。

Nov, 2019

本文从技术、法律、社会和伦理学的跨学科视角，对人工智能中的偏差和歧视进行了调查研究，并表明解决人工智能中的偏差和歧视需要进行强大的跨学科合作。

Aug, 2020

研究人员探讨了AI系统推荐错误或不公平的情况下，人工干预的必要性，并提供了关于解释、公平感知、依赖和分布公平性之间关系的理论框架，但文献并没有提供确凿证据证明解释在实践中实现了这种补充关系。

Apr, 2022

本文总结和评估了追求人工智能系统公正性的各种方法和技术，提出了定义、衡量和预防人工智能偏见的实用指南，并针对评估人工智能系统偏见的一些简单但常见方法提出了更为复杂和有效的替代方案。此外它还提供了一个共同的语言来解决领域内普遍存在的争议和混乱。它描述了涉及人工智能公正性的各种权衡，并提供了实用建议来平衡这些权衡。本文提供了关于人工智能从业者、组织领导、政策制定者的讨论和指南，以及为技术观众提供更多相关资料的链接。通过举例清晰阐述了本文中所提到的概念、挑战和建议。

Jul, 2022

现有的算法公平性方法旨在确保人类决策者与算法决策完全一致，然而，在人工智能与人类协作中，与算法的完全一致很少实现或者甚至是不可取的。我们提出了“合规性鲁棒公平算法推荐”概念，它能够保证在决策中改善公平性，无论人类的合规模式如何。然而，我们发现设计同时具备独立公平性、合规性鲁棒公平性和比人类决策更准确的算法推荐可能是不可行的，因此，如果我们的目标是改善人工智能与人类协作的公平性和准确性，可能不应强制执行传统的公平性约束。

Oct, 2023

提出了针对自动决策系统的公平需求的知觉差异，指出了社会必须解决的基本模糊性和关注点列表，并为自动决策系统中对公平的增加需求赋予了具体含义。

Nov, 2023

社会决策中公平性是最值得追求的原则之一，它在过去几十年中得到了广泛研究，近年来也得到了多智能体系统社区的重视。然而，这些研究往往不能充分捕捉到现实世界问题的复杂性和人们对公平性的认知。我们认为，社会规划者（设计者）不仅应该认为公平解是可取的，而且应该以人类和社会认知为基础，考虑基于人类判断的感知结果，并且可以进行验证。为了实现这一目标，需要从计算和人工智能到行为经济学和人机交互等广泛跨学科的方法。在这样做的过程中，我们指出了当前公平分配文献的不足和长期挑战，描述了近期在解决这些问题方面的努力，并更重要地强调了一系列开放的研究方向。

Dec, 2023

人工智能（AI）模型在我们的生活的各个方面得到广泛应用，如医疗、教育和就业。鉴于它们在许多敏感环境中使用并做出可能改变生活的决策，潜在的偏见结果成为一个紧迫问题。开发人员应确保这些模型不表现出任何意外的歧视做法，如对特定性别、种族或残疾人的偏袒。随着AI系统的广泛应用，研究人员和从业者对不公平的模型意识越来越强，并致力于减少其中的偏见。本文综述了研究人员在确保AI系统公平性方面所做的不同努力。我们探讨了当前文献中关于公平性的不同定义，通过对不同类型的偏见进行分类，研究了不同应用领域中存在的出现偏见的AI案例。我们对研究人员在减少AI模型偏见方面采用的方法和技术进行了详细研究。此外，我们还深入探讨了偏见模型对用户体验的影响以及在开发和部署此类模型时需要考虑的伦理问题。我们希望通过分享这份全面的综述，帮助研究人员和从业者理解AI系统中公平性和偏见的复杂问题。通过此综述，我们旨在促进公平和负责任AI领域的进一步讨论。

Mar, 2024

本研究针对当前偏好学习模型在公平性方面的不足，提出了一种评估其认知公平性的新框架，借鉴了经济不平等和罗尔斯公正理论。研究发现模型在用户表现上的差异，凸显潜在的认知不公，并探索了缓解这些不平等的处理技术，对AI伦理的发展具有重要贡献。

Oct, 2024