基于地点的算法巡逻管理的去偏技术

Dec, 2023

基于地点的算法巡逻管理的去偏技术

A debiasing technique for place-based algorithmic patrol management

Alexander Einarsson, Simen Oestmo, Lester Wollman, Duncan Purves, Ryan Jenkins

TL;DR近年来，数据驱动的警务出现了一场革命。通过对历史数据中的偏见如何影响算法决策进行审查。在这项探索性工作中，我们介绍了一种针对基于地点的算法巡逻管理系统的去偏倚技术。我们展示了该技术在保持模型高精度的同时有效消除了种族偏见的特征。最后，我们提供了一份潜在的未来研究清单，涵盖公平和数据驱动的警务领域。

Abstract

In recent years, there has been a revolution in data-driven policing. With that has come scrutiny on how bias in historical data affects algorithmic decision making. In this exploratory work, we introduce a debiasing te

data-driven policing bias in data algorithmic decision making debiasing technique fairness in policing

发现论文，激发创造

公平预测算法的统计框架

本文提出了通过从可允许的训练数据中去除保护变量的所有信息来消除预测模型偏见的方法，并将其应用于罪犯记录的数据集以产生种族中立的再逮捕预测方案，证明了将种族作为协变量省略的方式仍导致存在种族差异，并且证明了应用我们提出的方法可以将这些数据中的种族差异从预测中去除，并对预测准确性的影响最小。

Oct, 2016

一种移除敏感信息的算法应用于独立于种族的再犯罪预测

本文提出了一种概率算法偏见的方法，通过消除模型将要训练的数据中所有关于保护变量的信息来消除模型中的偏见。我们将我们的方法应用于一个关于罪犯在被判决时的犯罪历史数据集，并证明了一种创建 “种族中立” 模型的常见方法 - 即忽略种族作为协变量 - 仍然会导致种族差异预测。最后，我们证明了采用我们提出的方法可以最小限度地对预测精度产生影响，同时消除预测中的种族差异。

Mar, 2017

移除偏见数据以提高公平性和准确性

提出了一种黑盒子方法，用于识别和消除具有偏见的训练数据，以减少机器学习所带来的偏见，此方法在实验中显示出比之前的方法更佳的个体歧视和准确性表现。

Feb, 2021

去偏见技巧的有效性：本土定性分析

本文提供了对已预训练语言模型去偏见技术效果的土著观点。现有技术主要针对美国种族偏见，无法有效捕捉其他国家（如新西兰的毛利人）中代表性不足的土著人群，需要结合本地知识和理解来确保算法的公正性，特别是解决资源受限的社会问题。

Apr, 2023

学习最优公平策略

通过因果推断和约束优化方法学习公平政策，解决敏感情境下数据分析中存在的多个潜在偏见，避免自动决策程序和学习算法继续存在不公平现象。

Sep, 2018

人口平等：缓解现实世界数据中的偏见

计算机决策系统在许多日常生活的方面得到广泛应用，但其中可能存在性别、种族或其他偏见问题。本研究提出一种鲁棒的方法，通过真实世界数据提取出表征人口平衡和真实性的数据集，用于训练分类器，并测试其泛化能力，证实计算机辅助决策中不存在明示或隐含偏见。