将算法公平性与官方统计和调查生产中的质量维度联系起来的机器学习

Feb, 2024

将算法公平性与官方统计和调查生产中的质量维度联系起来的机器学习

Connecting Algorithmic Fairness to Quality Dimensions in Machine Learning in Official Statistics and Survey Production

Patrick Oliver Schenk, Christoph Kern

TL;DR使用《统计算法质量框架》的模型，将公平作为质量的一个维度，研究了公平与其他维度的相互作用以及与数据和方法学的交互，并在官方统计学、算法公平性和可信赖机器学习的领域中进行了实证研究和展示。

Abstract

national statistical organizations (NSOs) increasingly draw on Machine Learning (ML) to improve the timeliness and cost-effectiveness of their products. When introducing ML solutions, NSOs must ensure that high standards with respect to robustness, reproducibility, and accuracy are uph

national statistical organizations machine learning quality framework for statistical algorithms fairness algorithmic fairness

发现论文，激发创造

将公平原则付诸实践：挑战、度量和改进

本文研究算法公平性在机器学习中的应用，并提出了衡量和解决算法公平性问题的新方法，包括公平性指标和模型训练优化。

Jan, 2019

公平 AI 的数据质量维度

本文讨论了人工智能系统中的偏见问题，尤其是在涉及人类时，AI 算法反映了由于错误标记的数据来源的技术性误差。作者提出了通过实施数据质量维度以减轻偏见分类错误的潜在改进，涉及到两种性别：非二元性和跨性别者的分类。

May, 2023

机器学习中的公平性

讨论如何使用因果贝叶斯网络和最优输运理论来处理机器学习公平性问题，尤其是在复杂的不公平场景下，提出了一种统一的框架来处理不同的情况和公平标准，并介绍了一种学习公平表示的方法和一种考虑敏感属性使用限制的技术。

Dec, 2020

公平性概念及相关紧张关系综述

本文旨在调查研究自动化决策系统中机器学习算法存在的偏差及其与公平、隐私和分类准确性之间的关系，并综述了处理公平 - 准确性权衡的不同方法。作者通过实验分析了公平度量和准确度在现实世界场景中的关系。

Sep, 2022

公平性指标领域细微差别的澄清

本文探讨了机器学习和自动决策中处理公平性的问题，并对已提出的关于公平性的不同定义进行了分析和梳理。

Jun, 2021

机器学习中的公平性：一项调查

这篇文章介绍了机器学习中的社会偏见和公平性问题，总结了预处理、处理和后处理等多种方法，包含二分类、回归、推荐系统、无监督学习和自然语言处理等多个方面，同时提供了多个开源库。最后，列举了公平性研究的四个难题。

Oct, 2020

公平是什么？对公平机器学习的哲学思考及其含义

本文旨在通过形式化一致的公平概念，将哲学讨论转化为 ADM 系统中 ML 模型培训和评估的一种正式框架，并提出了一般算法，以实现 fairML 的更高语言清晰度和实际应用。

May, 2022

主动公平性审计

研究 ML 模型的审计算法，通过提出确定性算法和实用的随机化算法来评估 ML 模型的人口统计平等，以帮助监管机构应对机器学习的监管挑战，并为 AI 治理奠定更坚实的理论基础。

Jun, 2022

落地公正性：将算法公正性方法应用于生产系统

本文介绍了一支团队在大型技术公司的复杂生产系统中应用算法公平方法的挑战以及如何解决处理不同利益相关方之间的利益冲突的问题，同时还介绍了一种实用的方法来衡量机器学习系统和人类标记员在各种相关群体间进行权衡的情况。希望我们整合公平工具和方法到大规模复杂生产系统的经验对其他从业者有所助益，同时是研究人员更好地满足从业者需求的更深入的探索。

Mar, 2021

公平度指标：比较分析

该研究利用一个数学框架描述了公平性评估中一些常用的指标，探讨了它们之间的关系，为算法开发者和用户提供指导。

Jan, 2020