Nov, 2018

公平的定义如何表现？研究公众对基于算法的公平定义的态度

PDF
TL;DR本研究通过两项在线实验调查普通人对三种算法公平性定义的看法，测试这些定义在贷款决策中是否公平，并排除添加敏感信息（即贷款申请人的种族）是否会影响公平感知。结果表明，校准公平性被普遍接受并得到支持，同时研究还证明了平权原则的重要性。
发现论文，激发创造
  • 数学概念与人类对公平的感知：机器学习中公平的描述性方法

    本研究在于确定机器学习模型应用在社会领域中哪种公平性定义最为合适，通过自适应实验发现，人们普遍倾向于使用最简单的数学公式 —— 人口平等来衡量公平性。

    Feb, 2019

  • 算法决策中影响公平感知的因素：算法结果、开发过程和个体差异

    本研究使用在线实验的方法，探讨三组因素（算法预测结果、算法开发和部署程序以及个体差异）对算法公平性认知的影响，研究发现，参与者倾向于认为算法在其预测结果有利的情况下更加公平，这种影响受到多种变量的调节，如教育水平、性别以及开发程序的若干方面，研究结果表明在通过用户反馈评估算法公平性时，必须考虑预测结果偏好的可能存在。

    Jan, 2020

  • 算法决策中人类对公平性的感知研究：刑事风险预测案例研究

    该研究调查用户对算法决策公平性的看法，并提出了一个框架来了解人们如何认识和判断决策算法的公平性。他们通过与 576 人的一系列情境调查，验证了这一框架，并发现人们关注的不公平问题是多方面的。在高层次上，该研究显示人们的不公平关注是多维度的，未来的研究需解决超出歧视范围的不公平关注问题；在低层次上，研究表明人们在公平判断上存在着相当的分歧，但同时也提出了解决这些分歧的可能途径。

    Feb, 2018

  • 公平性概念及相关紧张关系综述

    本文旨在调查研究自动化决策系统中机器学习算法存在的偏差及其与公平、隐私和分类准确性之间的关系，并综述了处理公平 - 准确性权衡的不同方法。作者通过实验分析了公平度量和准确度在现实世界场景中的关系。

    Sep, 2022

  • 公平度指标：比较分析

    该研究利用一个数学框架描述了公平性评估中一些常用的指标，探讨了它们之间的关系，为算法开发者和用户提供指导。

    Jan, 2020

  • 因果公平概念及其后果

    通过分析算法公平性的因果定义，本文发现无论是基于对抗偏见的决策影响还是基于法律保护分类的影响，这些定义几乎总是以极端帕累托支配的决策方案结束，这突显了因果公平性普遍数学概念的形式限制和潜在的不良后果。

    Jul, 2022

  • 公平性的测度和误测：公平机器学习的关键综述

    公平机器学习的早期专注是确保由算法指导的决策是公平的，三个公平定义引起了人们的关注，即反分类，分类平衡和校准，但这三个公平定义都有重大的统计局限性。相比之下，我们认为更倾向于根据最准确的风险估计对类似风险的人进行相似的处理，而不是一定要满足公平的数学定义，并强调这种方法需要大量的努力来构建适当的风险估计。

    Jul, 2018

  • 公平和偏见的逻辑理论

    本文主要论述机器学习中公平性问题，提出三种公平模型：无意识公平、人口统计学公平和反事实公平，并在认识情境演算中进行了形式化的定义。

    Jun, 2023

  • 算法公正性

    本文概述了在使用人工智能算法时如何识别、测量和提高算法公正性的主要概念，并讨论了算法偏见和不公正的原因、公正的常见定义和度量以及预处理、处理中和后处理机制，最终回顾了几个新兴的算法公正性研究子领域。

    Jan, 2020

  • 50 年的测试（不）公平性：机器学习的教训

    本文探讨了公平概念在过去 50 年中在教育和招聘领域内的定义，比较当前机器学习研究中的公平标准与过去定义的异同，并提出了基于现代公平理解以及历史观点的未来研究方向。

    Nov, 2018