Nov, 2021

MISS: 多兴趣自监督学习框架用于点击率预测

PDF
TL;DR提出了一种基于 Multi-Interest Self-Supervised learning 的 CTR 预测框架，使用 CNN-based multi-interest extractors 提取不同兴趣表示中的自监督信号，并应用对比学习损失来提高特征表示学习。实验证明，该框架可以有效应用于现有 CTR 预测模型中并显著提高性能。
ctr predictionmulti-interest self-supervised learningcnn-based multi-interest extractorscontrastive learningrecommender systems
发现论文，激发创造
  • CL4CTR: 用于 CTR 预测的对比学习框架

    本文提出了一种基于自监督学习的 Click-Through Rate (CTR) 预测框架 (CL4CTR)，采用三种自监督学习信号作为特征表征学习的正则化项以提高 CTR 预测性能，并在四个数据集上实验证明其与各种代表性基线相比具有卓越的性能和兼容性。

    Dec, 2022

  • 深度多表示模型用于点击率预测

    本研究提出 Deep Multi-Representation (DeepMR) 模型，通过联合训练 DNN 和多头自注意力这两种功能强大的特征表示学习组件，以及使用零初始化的残差连接（ReZero）来提高输入表示的性能，在三个真实数据集上的 CTR 预测任务中超越了所有现有的最先进模型。

    Oct, 2022

  • Meta-Wrapper: CTR 预测中用户兴趣选择的可微分 Wrapping 算子

    本文提出了一种名为 Meta-Wrapper 的深度学习框架，在 CTR 预测中用于用户兴趣筛选，该方法采用了注意力机制和元学习算法以实现包装器方法的特征选择，并在三个公共数据集上进行了广泛实验验证。

    Jun, 2022

  • MiNet: 跨领域点击率预测的混合兴趣网络

    本文探讨了在线广告系统中面对的 CTR 预测问题，利用源域辅助数据来提高目标域的 CTR 预测性能，提出了 MiNet（Mixed Interest Network）网络，它可以联合建模三种类型的用户兴趣，包括长期跨域兴趣、来自源域的短期兴趣和目标域的短期兴趣，其中两种层级的注意力可以自适应地决定如何从新闻和广告中提取有用信息。离线实验表明 MiNet 优于几种现有的 CTR 预测方法，A/B 测试的结果也表明 MiNet 可以实际部署并有效提高 UC Toutiao 中的在线 CTR。

    Aug, 2020

  • 再看 CTR 预测：关注全部需求吗？

    本文旨在使用经济学中的离散选择模型对点击率 (CTR) 预测问题进行重新定义，并提出了一种使用自注意力机制构建的通用神经网络框架，该框架与现有的大多数 CTR 预测模型相一致，同时还考虑了模型的表达能力和复杂性，最后通过一些公共数据集上的实验结果证明了我们提出的见解。

    May, 2021

  • 面向点击率预测的自动神经交互发现

    本文提出了一种基于自动交互架构发现的 CTR 预测框架 AutoCTR，使用神经架构搜索技术探索了不同数据集的 CTR 预测模型，取得了在不同数据集上的预测效果和泛化性能的成功。

    Jun, 2020

  • 基于表示学习的点击率预测

    DeepMCP 模型基于匹配、关联和预测三个子网络，可以更准确地预测在线广告系统中的 CTR，并在两个大型数据集上优于现有的人工智能模型。

    Jun, 2019

  • MAP: 用于点击率预测的模型无关预训练框架

    基于大规模用户点击日志的自我监督学习对于点击率（CTR）预测仍然是一个开放性问题，而我们提出了一个无模型的预训练框架，利用特征破坏和恢复，挖掘多领域分类数据的特征交互，并通过两种实用的算法（即遮蔽特征预测和更替特征检测）进一步优化 CTR 预训练，实现了在 CTR 预测方面的有效性和效率的新的最先进表现。

    Aug, 2023

  • 深度会话兴趣网络用于点击率预测

    论文提出了一种名为 Deep Session Interest Network (DSIN) 的模型，它利用了用户历史行为序列中的多个会话，并将自我注意机制与双向 LSTM 相结合，以建模用户的兴趣演化，并通过局部激活单元自适应地学习各种会话对目标项目的影响，从而在在线广告和推荐系统等工业应用中提高了点击率（CTR）预测的准确性。

    May, 2019

  • AutoInt: 基于自注意力神经网络的自动特征交互学习

    本文提出了一种称为 AutoInt 的方法，通过多头自注意力神经网络和残差连接，自动学习输入特征的高阶特征交互，共同应用于 CTR 预测、在线广告和推荐系统，并展示了好的解释性和结果。

    Oct, 2018