Feb, 2024
关于输出扰动对二元线性分类中公平性的影响
On the Impact of Output Perturbation on Fairness in Binary Linear Classification
Vitalii Emelianov, Michaël Perrot
TL;DR我们在二元线性分类中理论上研究了差分隐私如何与个体公平性和群体公平性相互作用。具体来说，我们关注输出扰动机制，这是一种隐私保护机器学习的经典方法。我们导出了对扰动模型相对于原始模型可以实现的个体和群体公平性水平的高概率界限。因此，对于个体公平性，我们证明了输出扰动对公平性水平的影响是有界的，但随着模型维度增长而增长。对于群体公平性，我们表明这种影响取决于所谓的角余量的分布，即非私有模型的带符号余量通过每个示例的范数重新缩放。