Nov, 2020

离线指标能否预测推荐系统的在线性能？

PDF
TL;DR通过在六个受控的模拟环境中对 11 个推荐系统进行评估，研究离线度量是否能够预测在线性能，在观察到离线度量在一定范围内与在线性能相关的同时，还发现离线性能的提高会导致在线性能的收益递减，同时观察到推荐系统的排名取决于初始离线数据量以及探索策略的添加策略的有效性高度依赖推荐算法。
recommender systemsoffline metricsonline performancesimulation-based approachesexploration strategies
发现论文，激发创造
  • 优化奖励的推荐系统的离线评估：仿真案例

    本文介绍了推荐系统等互动应用中在线评估方法的重要性，分析了离线评估方法的特点，提出了使用基于模拟的比较作为评估手段的优点。

    Sep, 2022

  • 为推荐系统构建离线评估的时序和无偏倚的流行度离线指标

    我们的研究目的是调查和比较离线评估指标的在线表现。我们表明，在评估过程中对热门商品进行惩罚，并考虑交易时间能够显著提高我们选择最佳推荐模型的能力。我们的结果经过五个大规模真实推荐数据的平均处理，旨在帮助学术界更好地理解离线评估和更贴近推荐系统实际应用的优化标准。

    Aug, 2023

  • 从零开始设计离线强化学习目标

    本文提出了一种基于对比学习框架的评分指标，能够更准确地排名离线策略并用于监督式的离线策略优化，其在各种离线增强学习基准测试中表现优异，需求的策略网络容量更低、无需额外的网络配合。

    Jan, 2023

  • 推荐系统的离线 A/B 测试

    本文介绍了基于历史数据的线下评估方法，计算新推荐系统版本可能带来的收益提升，提供对实际环境下偏差建模的反事实估计量的变量，通过在线广告个性化产品推荐引起商业指标相关性的商业实验来检验这些估计值。

    Jan, 2018

  • 离线强化学习在推荐系统中的机遇与挑战

    该研究综述了利用离线强化学习应对推荐系统中数据效率低下的问题，着重介绍了现有文献在该领域的研究成果，同时强调了该领域面临的挑战、机遇和未来研究方向。

    Aug, 2023

  • 离线基于偏好的奖励学习的基准和算法

    本文提出了一种利用离线数据进行偏好学习的方法，通过基于池的主动学习生成偏好查询，学习奖励函数的分布，通过离线强化学习优化相应的策略，从而使代理人能够在未显示的离线数据中学习执行新任务。

    Jan, 2023

  • 推荐系统离线评估中数据泄露的关键研究

    本文对推荐系统离线评估中的数据泄漏问题进行了全面的分析，并通过实验表明，数据泄漏确实会影响模型的推荐准确性，提出了一种时间轴方案来评估推荐系统，以更加真实地模拟离线环境。

    Oct, 2020

  • 具有偏倚离线数据和不完善模拟器的强化学习基准

    许多强化学习应用中，很难让智能体在真实世界中行动，这给自动驾驶、医疗应用甚至某些推荐系统带来了困扰。本研究概述了强化学习中将离线数据与不完善模拟器相结合的四个主要挑战，并构建了 “机械离线强化学习基准”（B4MRL）来推动该领域的研究。结果表明，这些基准对未来研究至关重要。

    Jun, 2024

  • 离线强化学习在实时竞价和推荐中的加速应用：模拟的潜在应用

    利用模拟来加速离线强化学习与行动评估的实证研究：探讨离线强化学习与行动评估的实证研究如何受益于模拟，并提供了在 RecSys 和 RTB 中进一步促进实证研究的开放挑战和解决方案。

    Sep, 2021

  • 离线推荐系统评估指南

    本研究提出了四个关于推荐系统研究的大问题，包括不确定性估计、泛化、超参数优化和数据集预处理，并结合 TrainRec 的实验，得出了一组指导方针，建议未来的研究应该遵循这些指导方针进行评估。

    Nov, 2022