公平性与序贯决策：局限性、教训和机遇

Jan, 2023

公平性与序贯决策：局限性、教训和机遇

Fairness and Sequential Decision Making: Limits, Lessons, and Opportunities

Samer B. Nashed, Justin Svegliato, Su Lin Blodgett

TL;DR本文比较和讨论了算法公平性和道德决策制定两个主要领域的研究成果，探讨了其规范关切、不同技术方案的可行性，并阐述了两种领域对对方有用的思想。

Abstract

As automated decision making and decision assistance systems become common in everyday life, research on the prevention or mitigation of potential harms that arise from decisions made by these systems has proliferated. However, various research communities have independently conceptual

automated decision making algorithmic fairness ethical decision making predictive systems sequential decision making

发现论文，激发创造

基于学习的序列决策算法中的公平性：综述

本文综述了关于数据驱动的序贯决策的公平性的现有文献，重点讨论了两种类型的序贯决策及各种公平性干预措施对基础人口的影响。

Jan, 2020

足够公平？对 “公平” 算法要求的当前限制图谱

提出了针对自动决策系统的公平需求的知觉差异，指出了社会必须解决的基本模糊性和关注点列表，并为自动决策系统中对公平的增加需求赋予了具体含义。

Nov, 2023

公平且无偏的算法决策制定：现状与未来挑战

机器学习算法应用于如信贷贷款或刑法司法等关乎人类生活方面的情境，其所基于的数据若含有人类偏见决策，则会产生人类偏见决策，拥有公平观念的机器学习是一种解决方案，但是如何实现公平面临着 “多维面” 等难题，要想在不同领域实现公平、公正，算法必须做到数据和开发者审查的透明化，在此基础上不断进行公平审计。

Jan, 2019

公平性概念及相关紧张关系综述

本文旨在调查研究自动化决策系统中机器学习算法存在的偏差及其与公平、隐私和分类准确性之间的关系，并综述了处理公平 - 准确性权衡的不同方法。作者通过实验分析了公平度量和准确度在现实世界场景中的关系。

Sep, 2022

自动决策系统中的公平性和可解释性：计算机科学与法律的挑战

本论文针对算法决策中的公平性问题提供了跨学科的构想。其中，法律系统的差异是一个核心问题，同时论文提出了一种上下文方法来处理意外的群体歧视，研究算法决策的可解释性。

May, 2022

算法公正性

本文概述了在使用人工智能算法时如何识别、测量和提高算法公正性的主要概念，并讨论了算法偏见和不公正的原因、公正的常见定义和度量以及预处理、处理中和后处理机制，最终回顾了几个新兴的算法公正性研究子领域。

Jan, 2020

系统公平性

本文提出了机器学习和算法的公平性问题，强调在实际应用中考虑系统公平性的重要性，尤其是在具有多个代理机构的生态系统中，而非仅以单个决策者或代理人为中心。

Apr, 2023

商业分析中的算法公正性：研究与实践方向

该论文提供了针对算法公平性的业务分析的前瞻性评论，首先审查了偏差的来源和度量标准以及偏差缓解算法的最新研究进展，然后详细讨论了效用公平关系，并最终确定了业务学者可以解决和解决的关键挑战，这些挑战对 BA 的有效和负责任的部署至关重要。

Jul, 2022

算法公平性：一个容忍视角

机器学习和深度学习的最新进展使得算法公平成为一个关注焦点，引发对影响某些个体或群体的歧视性决策的担忧。本调研综述基于 “容忍度” 提出了一个新的分类系统，揭示了算法决策中公平的微妙性。通过分析多个行业，我们的系统性综述揭示了算法决策与社会公平之间的关键见解。通过综合这些见解，我们勾勒出一系列新兴挑战，并提出未来研究和政策制定的战略方向，以推动该领域朝着更加公平的算法系统发展。

Apr, 2024

实现序列决策中的长期公平性

本文提出了一种框架，以实现长期公平的顺序决策制定。通过进行强制性和软性干预，我们提出了将路径特定效应作为测量长期公平性的定量工具的方法。公平的顺序决策制定问题被规定为一个以效用为目标、长期和短期公平性为约束条件的约束优化问题。我们展示了这样一个优化问题可以被转化为一个执行风险优化。最后，使用了重复风险最小化（RRM）进行模型训练，并在理论上分析了 RRM 的收敛性。经验证实，该算法在合成和半合成的时间数据集上表现良好。

Apr, 2022