打破定型：一个统一框架用于审视推荐系统中的误判、偏见和刻板印象

Dec, 2023

打破定型：一个统一框架用于审视推荐系统中的误判、偏见和刻板印象

Break Out of a Pigeonhole: A Unified Framework for Examining Miscalibration, Bias, and Stereotype in Recommender Systems

PDF

Yongsu Ahn, Yu-Ru Lin

TL;DR评估推荐系统的系统性误差、刻板印象和校准问题，并提出了一种统一框架来衡量系统引起的效应，研究发现简单算法生成的推荐结果更符合刻板印象但偏差较小，而较复杂算法产生的推荐则存在更大的偏差，进而影响到非典型用户和少数群体，通过过采样来减少刻板印象和提高推荐质量具有改善系统引起效应的潜力。

Abstract

Despite the benefits of personalizing items and information tailored to users' needs, it has been found that recommender systems tend to introduce biases that favor popular items or certain categories of items, a

recommender systems biases stereotypes miscalibration mitigation

发现论文，激发创造

流行度偏见对推荐的公平性和校准性的影响

本文介绍了一种度量推荐算法响应用户真实偏好的度量标准，称为 “miscalibration”。研究人员考虑了各种算法可能导致不同程度的 miscalibration，从而探讨了当算法流行度偏差导致 miscalibration 时的关键因素，其中研究者使用两种真实世界数据集展示了不同算法对用户群体的影响和流行偏差对 miscalibration 的影响。

Oct, 2019

推荐系统中流行度偏差、校准和公平性之间的关联

本研究考虑不同推荐算法对不同用户偏好的响应度进行测量，并揭示了算法中流行度偏差可能是导致推荐偏差的重要因素。两个真实数据集的实验结果表明，用户群体受到算法中流行度偏差程度与他们对流行物品的兴趣程度之间存在关联，并且受到算法中流行度偏差影响越大，他们的推荐结果就越有偏差。

Aug, 2020

推荐系统中的偏差差异

本研究在合成数据上进行了初步的实验研究，在不同条件下研究推荐系统如何表现出偏见失衡现象以及推荐的长期效果。我们考虑了一种简单的重新排名算法来减少偏见失衡，并对实际数据的数据失衡进行了一些观察。

Nov, 2018

推荐系统中的精度、误校准和流行偏见研究

本研究分析了五个著名推荐算法在具有不同意向的用户群组中的表现不一致性、度量标准和不同类型影片对不一致表现的影响，结果表明，对流行度兴趣不高的用户收到的推荐准确性最低，且特定类型影片对于不一致性表现有不同的影响。

Mar, 2023

升高声音：协作式推荐中的偏好偏差放大

本文研究了推荐系统中的个性化、校准、偏差差异等主题，检验了不同算法和物品类别之间的显著差异。