SIGIRApr, 2023

始终强化优势：基于漂移感知的增量学习框架用于 CTR 预测

PDF
TL;DR本文提出了一种基于集成学习的漂移感知增量学习框架，通过明确基于错误的流数据漂移检测，进一步加强适应良好的集合，并冻结不匹配的集合，避免了灾难性干预，从而解决了 CTR 预测中的灾难性遗忘问题。离线实验和 A/B 测试结果表明，该方法优于所有基线方法。
发现论文，激发创造
  • 大规模 CTR 预测的增量学习框架

    本研究提出了一种增量学习框架，用于 Click-Through-Rate (CTR) 预测，并展示了其在 Taboola 庞大规模推荐服务中的有效性。通过从以前部署的模型进行暖启动和仅在 “新鲜” 的数据上微调，我们的方法可以快速捕捉新兴趋势，并通过教师 - 学生范式来保留过去的知识。我们的增量学习框架可以实现显着更快的训练和部署周期（12 倍加速）。我们在多个流量段上证明了一致的 Revenue Per Mille (RPM) 增长和新引入项目的 CTR 显著增加。

    Sep, 2022

  • 关于 CTR 预测中概念漂移的适应性

    本文提出了一种新的自适应专家混合（AdaMoE）框架，通过对 CTR 预测数据流中的统计加权策略来缓解概念漂移问题，并通过基准和实际工业数据集的大量离线实验以及在线 A / B 测试表明，AdaMoE 明显胜过所有考虑的增量学习框架。

    Apr, 2022

  • 一种实用的增量训练深度 CTR 模型的方法

    介绍了一种针对推荐系统中的深度 CTR 模型训练的增量学习方法，其通过数据、特征和模型三个模块解耦来增量更新模型。通过在公共基准数据集和私有数据集上进行实验证明了该方法高效可行，达到与传统批量模式相媲美的性能。

    Sep, 2020

  • 解决神经网络在 CTR 预测中的连续训练中的延迟反馈问题

    本篇论文着重探讨如何在存在延迟标签的情况下，从连续的数据流中使用最佳的损失函数和模型进行大规模的学习。通过离线和在线实验的结果，论文得出了一种新的解决方案，可以优化 CTR，并提高广告主的性能。

    Jul, 2019

  • 再看 CTR 预测：关注全部需求吗？

    本文旨在使用经济学中的离散选择模型对点击率 (CTR) 预测问题进行重新定义，并提出了一种使用自注意力机制构建的通用神经网络框架，该框架与现有的大多数 CTR 预测模型相一致，同时还考虑了模型的表达能力和复杂性，最后通过一些公共数据集上的实验结果证明了我们提出的见解。

    May, 2021

  • 知识蒸馏下的位置偏差建模思考与 CTR 预测

    提出一种基于知识蒸馏的简单而高效的方法，以缓解位置偏差的影响，利用位置信息来提高 CTR 预测性能。在真实世界的生产数据集和在线 A/B 测试中，该方法取得了显著的性能改善，并已在全球最大电商平台的主要流量服务中部署。

    Apr, 2022

  • 细化点击率预测模型的相互学习

    通过模型之间的相互学习算法，提高了点击率（CTR）预测模型在 Criteo 和 Avazu 数据集上的性能，相对提升了 0.66%。

    Jun, 2024

  • 点击率预测的置信度排名

    本文提出了一种名为 “置信度排名” 的新型框架，使用两个不同的模型以排名函数的形式设计优化目标，允许针对不同凸代理函数的评估指标进行直接优化，例如 AUC 和 Accuracy。实验结果表明，引入置信度排名损失后，可以在公共和工业数据集的 CTR 预测任务上胜过所有基线，该框架已在 JD.com 的广告系统中部署以提高精细排名阶段的主要流量表现。

    Jun, 2023

  • CL4CTR: 用于 CTR 预测的对比学习框架

    本文提出了一种基于自监督学习的 Click-Through Rate (CTR) 预测框架 (CL4CTR)，采用三种自监督学习信号作为特征表征学习的正则化项以提高 CTR 预测性能，并在四个数据集上实验证明其与各种代表性基线相比具有卓越的性能和兼容性。

    Dec, 2022

  • 深度学习用于点击率估计

    本文综述了 CTR 估算任务中使用的深度学习模型，包括从浅层到深度 CTR 模型的转换，深度 CTR 模型的显式特征交互学习模块，用户行为模型，以及深度 CTR 架构设计的自动化方法。

    Apr, 2021