Oct, 2023
不带伤害的公平分类器
Fair Classifiers that Abstain without Harm
Tongxin Yin, Jean-François Ton, Ruocheng Guo, Yuanshun Yao, Mingyan Liu...
TL;DR在关键应用中，分类器将决策推迟给人类至关重要。我们提出了一种事后方法，使现有分类器有选择地放弃对某些样本的预测。我们的放弃分类器被激励以在满足用户指定的组公平性定义时保持原始准确性，同时实现一组群体公平性的程度。为此，我们设计了一种整数规划过程，为每个训练样本分配放弃决策以满足一组约束条件。为了将放弃决策推广到测试样本，我们训练了一个代理模型，以端到端的方式根据整数规划解决方案学习放弃决策。我们分析了整数规划过程的可行性，以确定实现无害性所需的不公平容忍度和准确性约束的可能放弃率。据我们所知，这项工作是首次确定约束参数与所需放弃率之间的理论关系。由于人力资源的不足，高放弃率在实践中通常是不可行的，因此我们的理论结果是重要的。我们的框架在保持类似放弃率时，在公平差异方面优于现有方法而不牺牲准确性。