May, 2019

公平徵询的算法框架

PDF
TL;DR介绍了一种框架，在该框架中，可以将成对的个体标识为需要（大约）相等的待遇。我们引入了一种算法，可以在满足预设的公平性约束条件下学习最准确的模型，并证明了其准确性和公平性的泛化界限。该算法还可以将传统的统计公平概念与 elicited constraints 相结合，从而通过前者 “纠正” 或修改后者。我们使用在 COMPAS 犯罪再犯率数据集上 elicited 的 human-subject 公平性约束条件的行为学研究报告了初步结果。
fairnesslearned modelelicited constraintsaccuracygeneralization bounds
发现论文，激发创造
  • 平均个体公平性：算法、泛化及实验

    本研究提出一种基于个体和统计概念的新公平性定义族，设计了一种可以访问任何标准公平性无关的学习启发式算法的神谕有效算法，用于公平经验风险最小化任务，并且通过实验证明了其效果。

    May, 2019

  • 在预测儿童虐待系统中获取利益相关方的公正概念

    提出了一种利用用户界面和采访协议结合的框架，以考虑利益相关者的主观公平观念，并应用于儿童虐待预测系统的用户研究中，结果表明该框架可以全面传达利益相关者的公平观点，对于预测系统的设计具有启示意义。

    Feb, 2021

  • 公平和偏见的逻辑理论

    本文主要论述机器学习中公平性问题，提出三种公平模型：无意识公平、人口统计学公平和反事实公平，并在认识情境演算中进行了形式化的定义。

    Jun, 2023

  • 一个人机交互框架构建情境感知数学公平概念

    提出了一种新的公平学习框架，该框架通过调查人们对于玄学公正性的评估来学习对于决策上下文的考虑，并使利益相关者参与到机器学习公平性的制定中。

    Nov, 2019

  • 分配问题中的公平学习算法

    该研究探讨基于机会平等的公平分配问题，并介绍了一种有效的学习算法来克服不完整反馈数据，进而应用于预测犯罪问题。

    Aug, 2018

  • 基于成对公正表示的个体公正实现

    本文提出不需要人工规范距离度量的个体公平性的实现方法。我们提出新的方法获取和利用关于同样值得的个人的附加信息来打破社会群体之间的剥夺，将这些知识建模为公平图，并学习数据的统一成对公平表示，捕捉个体间数据驱动的相似性和公平性图中成对附加信息。我们从各种来源获取公平判断，包括关于再犯率预测（COMPAS）和暴力社区预测（Crime＆Communities）的两个真实数据集的人类判断。实验显示，对于实现个体公平，PFR 模型是实际可行的。

    Jul, 2019

  • iFair: 学习个体公平数据表示方法用于算法决策

    本文提出了一种基于概率映射用户记录的方法，用于实现算法决策应用的个体公平性和真实应用环境下的分类器和排名等工具的效用性，并通过应用于现实世界数据集的分类和学习排序任务的实验表明了其比之前最佳方法有显著改善。

    Jun, 2018

  • 因果机器学习公平性概念调查

    本文探讨了基于因果关系的公平性概念及其在实际场景中的适用性，并针对采用观察数据估计因果量的不同方法，包括可辨识性和潜在结果框架进行了综合报告，提供出一个指南来帮助选择适合特定实际场景的公平性概念，并根据 Pearl 的因果推理难度对公平性概念进行了排名。

    Oct, 2020

  • 公正通过努力平等

    本文提出了一种新的基于因果关系的公平判定方法：努力平等。与现有的公平概念不同的是，努力平等不仅关注于两个群体之间的决策差异，而且还帮助回答了当特定个体实现特定结果水平时应合理变化的合法性变量的程度，以及保护组和无保护组个体实现相同结果水平所做的努力是否不同等问题。研究团队开发了算法来确定在平等的努力方面是否存在歧视，并发展了一种基于优化的方法，用来消除数据中的歧视影响。而实验结果表明，与现有的公平概念相比，努力平等的算法更为有效。

    Nov, 2019

  • 公平性概念及相关紧张关系综述

    本文旨在调查研究自动化决策系统中机器学习算法存在的偏差及其与公平、隐私和分类准确性之间的关系，并综述了处理公平 - 准确性权衡的不同方法。作者通过实验分析了公平度量和准确度在现实世界场景中的关系。

    Sep, 2022