Feb, 2018
高风险公共部门决策中算法支持的公平性与问责设计需求
Fairness and Accountability Design Needs for Algorithmic Support in High-Stakes Public Sector Decision-Making
Michael Veale, Max Van Kleek, Reuben Binns
TL;DR通过对 5 个经济合作与发展组织国家的 27 名公共部门机器学习从业者进行访谈，本文探讨了在算法决策应用，如税收、司法和儿童保护中如何理解和注入公共价值观。结果显示出在当前可用、透明和 “区分度感知” 的机器学习研究中，缺乏组织和机构现实、限制和需求，存在设计机会，如支持次要数据来源中概念漂移的追踪和构建可用的透明度工具，以识别风险并整合领域知识，旨在支持管理人员和公共服务的 “一线官僚”。我们最后概述了这些高风险应用中的伦理挑战和未来合作方向。