May, 2024

信息回音室：探究在用户、数据和推荐系统反馈循环中的源偏见逐步升级

PDF
TL;DR研究表明在反馈循环中，源偏好对神经推荐模型产生了影响，因此引入了一种黑盒去偏方法以防止偏见在反馈循环中的升级。
neural retrieval modelssource biasrecommender systemsfeedback loopdebiasing method
发现论文，激发创造
  • 人工智能生成的图像为文本 - 图像检索引入了不可见的相关偏差

    在研究中，作者通过构建适当的基准来探索 AI 生成图像引起的不可见相关性偏差，这种偏差会使得文本 - 图像检索模型倾向于将 AI 生成的图像排在真实图像之前，然后提出了一种有效的训练方法来缓解这种不可见相关性偏差。

    Nov, 2023

  • 推荐系统中的退化反馈环路

    本研究探讨了机器学习在推荐系统中的应用，分析了用户动态和推荐系统行为对 “回声室” 和 “筛选气泡” 现象的影响及其解决方案。该研究有助于理解和解决该领域仍然存在的复杂时间情景及其常见问题。

    Feb, 2019

  • 推荐系统与人的交互

    该研究旨在了解推荐算法对未来用户数据的影响，通过提出一个简单模型，表明忽略这个反馈循环将导致非一致性评估器，因此验证了我们的结论。

    Mar, 2017

  • 数据反馈环路：基于模型驱动的数据集偏差放大

    本文旨在通过记录模型与数据的交互过程，以改善未来爬取的 Internet 数据集的信息稳定性。我们发现模型输出表现为源自训练集的样本具有一致性校准时，偏见放大的程度与模型预测的性别偏差等测试时偏差统计显著相关，如果同时在三个条件预测场景中使用，能更好的校准和稳固反馈系统。

    Sep, 2022

  • 人员推荐对回声室和极化的影响

    本文提出了一个基于 Monte Carlo 模拟的框架来评估人们推荐算法对意见演变的影响，结果发现人们推荐算法确实会导致峡谷效应显著增加，但仅在网络中有相当数量的同质性的情况下发生。

    Dec, 2021

  • 源信息披露对 AI 生成的信息评估的影响：一项双部分研究

    人工智能的进展、ChatGPT、信息来源披露、防止吸烟的信息传达和对人工智能的负面态度在影响信息评估和选择方面发挥作用。

    Nov, 2023

  • 图神经网络在推荐系统中的偏见放大比较分析

    本研究通过文献综述和行为分析，对比了基于 GNN 的不同算法和现有方法的偏见影响，并旨在探索最小化模型性能影响的适当解决方案。

    Jan, 2023

  • 深度生成模型是否会放大未来模型中的偏见？

    通过研究深度生成模型对未来计算机视觉模型中潜在社会偏见的影响，本文探讨了如果使用生成的图像作为训练数据，是否会导致偏见放大，从而造成有害内容的传播。然而，与预期相反的是，我们的研究结果显示，在特定任务中出现偏见缓解的情况，这可能与图像生成中的瑕疵（如模糊的脸部）或原始数据集中的既有偏见等因素有关。

    Apr, 2024

  • 推荐与用户代理：合作过滤信息的可达性

    本研究从用户可控性的角度，通过可达性理论，提出了一种用于检测顶部线性推荐模型的计算有效的审核方法，并描述了模型复杂度与用户控制推荐工作的关系，同时探讨了使用领先的电影评级数据集训练的现有模型的实证调查。

    Dec, 2019

  • 动态因果协同过滤

    本文提出了一种具有循环过程的因果图并使用马尔可夫过程分析了回音室等数学特性，设计了一种动态因果协作过滤模型来减轻回音室现象并通过多次实验证明其优越性。

    Aug, 2022