Nov, 2018
无偏倚性的公平性：当保护类别未观察到时评估差异
Fairness Under Unawareness: Assessing Disparity When Protected Class Is Unobserved
Jiahao Chen, Nathan Kallus, Xiaojie Mao, Geoffry Svacha, Madeleine Udell
TL;DR本文研究了决策系统对于受保护类别的公正性评估时，如何使用基于观察到的代理指标的概率模型，如姓氏和地理位置来预测受保护类别并弥补缺失类别标签以满足合规性要求。作者发现该方法有偏差，并提出了一个基于软分类的替代方法，并证明了其偏差源于结果因果关系与真实类别成员资格的条件协方差。最后，作者使用数字模拟和抵押申请公共数据集进行实证研究，并得出结论：阈值法模型的偏差普遍上升，但大小强烈取决于所选择的阈值；而新的权重估计器倾向于具有负偏差，更容易分析和理解。