ICLRJun, 2022
梯度不对齐导致差异隐私的不平等影响
Disparate Impact in Differential Privacy from Gradient Misalignment
Maria S. Esipova, Atiyeh Ashari Ghomi, Yaqiao Luo, Jesse C. Cresswell
TL;DR本文研究机器学习中隐私性与公平性问题中,隐私增强技术可能会加剧模型中的不公平,导致数据中不同群体的差异性迅速增大;通过研究 DPSGD 不公平根源,本文提出一种新方法,通过防止 DPSGD 中梯度错位来降低不公平。