Mar, 2021
在没有基准实例的情况下，评估模型的偏差
Measuring Model Biases in the Absence of Ground Truth
Osman Aka, Ken Burke, Alex Bäuerle, Christina Greer, Margaret Mitchell
TL;DR这篇研究提出了一种解决机器学习中偏见问题的数学方法，利用图像分类作为工作示例，通过将分类模型对给定图像的预测视为类似于单词袋的标签集合，排名模型对不同身份标签学习的偏见。作者使用（男人，女人）作为身份标签集的具体例子，并展示了最偏向一个身份或另一个身份的标签的排名。最后，作者利用 TensorBoard 提供了开源的 nPMI 可视化工具。