Oct, 2023

ALT: 语言和 CTR 模型之间的细粒度对齐性，用于点击率预测

PDF
TL;DR本文提出了一种新颖的基于 Fine-grained Feature-level Alignment 的语言模型和点击率（CTR）预测模型，通过协同建模和语义知识提取，实现了文本模态和表格模态之间的特征交互和对齐，取得了比现有方法更好的实验结果，并适用于多种语言和 CTR 模型。
click-through ratectr predictionlanguage modelingtabular modelingalignment
发现论文，激发创造
  • ClickPrompt：CTR 模型是将语言模型用于 CTR 预测的强大提示生成器

    本研究提出了一个新的模型无关框架（ClickPrompt），通过将 CTR 模型与预训练语言模型结合，旨在同时建模语义知识和协同知识，解决 CTR 估计的推理效率问题。实验证明 ClickPrompt 相较于现有基准模型具有显著的效果。

    Oct, 2023

  • BERT4CTR: 将预训练语言模型与非文本特征结合的高效框架用于 CTR 预测

    提出一种新的 BERT4CTR 框架，利用 Uni-Attention 机制在处理多模态输入和 CTR 预测中通过降维的方式从非文本和文本特征之间获得交互信息，并在训练和推断中保持低时间成本，实验证明其在公共和商业数据上显著优于现有框架。

    Aug, 2023

  • CL4CTR: 用于 CTR 预测的对比学习框架

    本文提出了一种基于自监督学习的 Click-Through Rate (CTR) 预测框架 (CL4CTR)，采用三种自监督学习信号作为特征表征学习的正则化项以提高 CTR 预测性能，并在四个数据集上实验证明其与各种代表性基线相比具有卓越的性能和兼容性。

    Dec, 2022

  • MAP: 用于点击率预测的模型无关预训练框架

    基于大规模用户点击日志的自我监督学习对于点击率（CTR）预测仍然是一个开放性问题，而我们提出了一个无模型的预训练框架，利用特征破坏和恢复，挖掘多领域分类数据的特征交互，并通过两种实用的算法（即遮蔽特征预测和更替特征检测）进一步优化 CTR 预训练，实现了在 CTR 预测方面的有效性和效率的新的最先进表现。

    Aug, 2023

  • 细化点击率预测模型的相互学习

    通过模型之间的相互学习算法，提高了点击率（CTR）预测模型在 Criteo 和 Avazu 数据集上的性能，相对提升了 0.66%。

    Jun, 2024

  • 使用多模态 Transformer 进行基于帧的直播流点击率预测

    本文提出了一种基于多模态 Transformer 的 ContentCTR 模型，采用帧级别的 CTR 预测来充分利用视觉帧、音频和评论等多模态信息，借助具有一阶差分约束的新型成对损失函数来利用亮点和非亮点间的对比信息，以及基于动态时间规整的时间文本 - 视频对齐模块以捕捉实时内容变化，实验表明该方法在真实场景和公共数据集上进行推荐时均优于传统方法，应用于公司平台后的在线 A/B 测试也进一步验证了其实际意义。

    Jun, 2023

  • RAT：检索增强转换器用于点击率预测

    通过检索式转换器建立内部和跨样本特征交互，用于点击率预测，提高预测效果并保持高效性。

    Apr, 2024

  • 通过 Tabular Learning 实现发展中国家的高效点击率预测

    本研究旨在通过建立点击率预测任务与表格学习之间的联系，证明表格学习模型在 CTR 预测中比超参数化 CTR 预测模型更高效、更有效，并通过 8 个公共 CTR 预测数据集上的实验以及实际在线应用的 A / B 测试，证明这种模型不仅可以提高离线性能，还可以提高真实用户的 CTR。

    Apr, 2021

  • TFNet: 多语义特征交互用于 CTR 预测

    本文提出了一种新颖的基于张量的特征交互网络模型（Tensor-based Feature interaction Network，TFNet），通过多个语义空间中的多个多维矩阵，引入操作张量来阐述特征交互，从而在 CTR 预测、推荐系统等方面实现了更好的表现。

    Jun, 2020

  • 多交互注意力网络用于 CTR 预测中细粒度特征学习

    通过提出一种 Multi-Interactive Attention Network (MIAN) 方法，结合多种精细特征以及性别、年龄、职业等用户个人信息，从多个方面综合提取用户偏好，同时设计全局交互模块 (GIM) 学习高阶交互和平衡多个特征的影响，能够有效地预测用户点击率 (CTR)。

    Dec, 2020