Jun, 2023

使用多模态 Transformer 进行基于帧的直播流点击率预测

PDF
TL;DR本文提出了一种基于多模态 Transformer 的 ContentCTR 模型，采用帧级别的 CTR 预测来充分利用视觉帧、音频和评论等多模态信息，借助具有一阶差分约束的新型成对损失函数来利用亮点和非亮点间的对比信息，以及基于动态时间规整的时间文本 - 视频对齐模块以捕捉实时内容变化，实验表明该方法在真实场景和公共数据集上进行推荐时均优于传统方法，应用于公司平台后的在线 A/B 测试也进一步验证了其实际意义。
live streaming platformsrecommendation modelsmultimodal transformerframe-level ctr predictiondynamic time warping
发现论文，激发创造
  • 使用多模超图进行点击率预测

    使用 Hypergraph Click-Through Rate prediction framework 模型，利用多模态交互的用户和物品信息和生成的基于兴趣的用户超图和物品超图，通过时间感知的用户 - 物品二分网络来预测用户对微视频点击率，该模型表现显著优于其他现有的模型。

    Sep, 2021

  • 大规模 CTR 预测的增量学习框架

    本研究提出了一种增量学习框架，用于 Click-Through-Rate (CTR) 预测，并展示了其在 Taboola 庞大规模推荐服务中的有效性。通过从以前部署的模型进行暖启动和仅在 “新鲜” 的数据上微调，我们的方法可以快速捕捉新兴趋势，并通过教师 - 学生范式来保留过去的知识。我们的增量学习框架可以实现显着更快的训练和部署周期（12 倍加速）。我们在多个流量段上证明了一致的 Revenue Per Mille (RPM) 增长和新引入项目的 CTR 显著增加。

    Sep, 2022

  • 深度多表示模型用于点击率预测

    本研究提出 Deep Multi-Representation (DeepMR) 模型，通过联合训练 DNN 和多头自注意力这两种功能强大的特征表示学习组件，以及使用零初始化的残差连接（ReZero）来提高输入表示的性能，在三个真实数据集上的 CTR 预测任务中超越了所有现有的最先进模型。

    Oct, 2022

  • 再看 CTR 预测：关注全部需求吗？

    本文旨在使用经济学中的离散选择模型对点击率 (CTR) 预测问题进行重新定义，并提出了一种使用自注意力机制构建的通用神经网络框架，该框架与现有的大多数 CTR 预测模型相一致，同时还考虑了模型的表达能力和复杂性，最后通过一些公共数据集上的实验结果证明了我们提出的见解。

    May, 2021

  • 始终强化优势：基于漂移感知的增量学习框架用于 CTR 预测

    本文提出了一种基于集成学习的漂移感知增量学习框架，通过明确基于错误的流数据漂移检测，进一步加强适应良好的集合，并冻结不匹配的集合，避免了灾难性干预，从而解决了 CTR 预测中的灾难性遗忘问题。离线实验和 A/B 测试结果表明，该方法优于所有基线方法。

    Apr, 2023

  • 面向点击率预测的自动神经交互发现

    本文提出了一种基于自动交互架构发现的 CTR 预测框架 AutoCTR，使用神经架构搜索技术探索了不同数据集的 CTR 预测模型，取得了在不同数据集上的预测效果和泛化性能的成功。

    Jun, 2020

  • 对抗式多模态表征学习用于点击率预测

    提出了一种新的基于多模态对抗表示网络 (MARN) 的点击率预测模型，它通过计算多模态特征中的模态加权值和使用模态不变特征来学习表征，以解决在电子商务中从多模态特征学习良好的物品表示的问题，并在公共和工业数据集上实现了显着的改进。

    Mar, 2020

  • 基于邻居交互的图遮盖变换器点击率预测

    提出一种使用基于邻域的交互方法的 Ctr 预测模型，该模型考虑了异构信息网络环境下的推荐系统，采用各种显式和隐式相互作用方式进一步指导本地邻域的表示学习，并在真实数据上表现出较大优势。

    Jan, 2022

  • ALT: 语言和 CTR 模型之间的细粒度对齐性，用于点击率预测

    本文提出了一种新颖的基于 Fine-grained Feature-level Alignment 的语言模型和点击率（CTR）预测模型，通过协同建模和语义知识提取，实现了文本模态和表格模态之间的特征交互和对齐，取得了比现有方法更好的实验结果，并适用于多种语言和 CTR 模型。

    Oct, 2023

  • 长序列用户行为对于点击率预测的建模实践

    本研究通过机器学习算法与在线服务系统的共同设计，提出了处理长序列用户行为数据的解决方案，能够有效地处理超过千级的长序列用户行为数据，提升了模型性能和系统效率。

    May, 2019