一个人机交互框架构建情境感知数学公平概念

AAAINov, 2019

一个人机交互框架构建情境感知数学公平概念

A Human-in-the-loop Framework to Construct Context-aware Mathematical Notions of Outcome Fairness

Mohammad Yaghini, Andreas Krause, Hoda Heidari

TL;DR提出了一种新的公平学习框架，该框架通过调查人们对于玄学公正性的评估来学习对于决策上下文的考虑，并使利益相关者参与到机器学习公平性的制定中。

Abstract

Existing mathematical notions of fairness fail to account for the context of decision-making. We argue that moral consideration of contextual factors is an inherently human task. So we present a framework to learn conte

context-aware fairness human-in-the-loop equality of opportunity machine learning

发现论文，激发创造

平等机会经济模型视角下公平机器学习的道德框架

本文将算法公平性的概念与政治哲学中的机会平等等经济模型进行了概念映射，通过这种方式，许多现有的算法公平性定义可以解释为机会平等的特例，从而成为理解现有算法公平性概念的统一道德框架，并且我们基于机会平等模型提出了新的算法公平度量标准，我们的实证结果表明，当社会道德假设不满足时，使用算法公平度量会对弱势群体的福利产生严重后果。

Sep, 2018

公平徵询的算法框架

介绍了一种框架，在该框架中，可以将成对的个体标识为需要（大约）相等的待遇。我们引入了一种算法，可以在满足预设的公平性约束条件下学习最准确的模型，并证明了其准确性和公平性的泛化界限。该算法还可以将传统的统计公平概念与 elicited constraints 相结合，从而通过前者 “纠正” 或修改后者。我们使用在 COMPAS 犯罪再犯率数据集上 elicited 的 human-subject 公平性约束条件的行为学研究报告了初步结果。

May, 2019

在交互式人机协同 AI 公平性中促进最终用户的参与

我们探索了一种人机交互界面的设计，使得普通用户可以识别潜在的公平问题并在贷款决策的背景下解决它们，为评判和解决人工智能的公平性做出贡献。

Apr, 2022

数学概念与人类对公平的感知：机器学习中公平的描述性方法

本研究在于确定机器学习模型应用在社会领域中哪种公平性定义最为合适，通过自适应实验发现，人们普遍倾向于使用最简单的数学公式 —— 人口平等来衡量公平性。

Feb, 2019

公平和偏见的逻辑理论

本文主要论述机器学习中公平性问题，提出三种公平模型：无意识公平、人口统计学公平和反事实公平，并在认识情境演算中进行了形式化的定义。

Jun, 2023

因果机器学习公平性概念调查

本文探讨了基于因果关系的公平性概念及其在实际场景中的适用性，并针对采用观察数据估计因果量的不同方法，包括可辨识性和潜在结果框架进行了综合报告，提供出一个指南来帮助选择适合特定实际场景的公平性概念，并根据 Pearl 的因果推理难度对公平性概念进行了排名。

Oct, 2020

将机器学习的抽象边界扩展：采用复杂系统方法纳入社会背景

本篇论文利用复杂自适应系统、协作因果理论形成和以社区为基础的系统动力学三种方法来帮助人们更好地理解、识别和表达社会背景，提出了如何通过系统论方法来改进机器学习的公平性，包括将机器学习公平性的抽象范围扩展至社会背景等方面，以实现公平和包容的机器学习产品的开发。

Jun, 2020

反事实公平机会：利用反事实推理测量决策模型公平性

本研究提出一种利用反事实推理揭示机器学习和去偏见模型不公平行为的方法，在三个不同数据集上获得验证。

Feb, 2023

在预测儿童虐待系统中获取利益相关方的公正概念

提出了一种利用用户界面和采访协议结合的框架，以考虑利益相关者的主观公平观念，并应用于儿童虐待预测系统的用户研究中，结果表明该框架可以全面传达利益相关者的公平观点，对于预测系统的设计具有启示意义。

Feb, 2021

反事实公平性

本文提出了一个利用因果推断工具来建立公正性模型的框架，以避免机器学习在保险、贷款、雇佣和预测执法等领域的不公正决策，避免造成基于不公正数据的歧视性做法，以法学院成功的公平预测为实际问题进行了实证研究。

Mar, 2017