May, 2021

基于深度交叉注意力积网络的用户响应预测

PDF
TL;DR本文提出了一种新的 DCAP 体系结构，通过多头注意机制和产品神经网络差异化重点交叉特征，并在三个现实世界数据集上进行全面实验，结果表明 DCAP 模型的预测性能优于现有模型。
user response predictionfeature interactionsdeep cross attentional product network (dcap)multi-head attention mechanismprediction performance
发现论文，激发创造
  • 深度交叉网络用于广告点击预测

    本文介绍了一种新型深度神经网络 ——Deep & Cross Network (DCN)，能够在保留 DNN 模型优势的基础上，引入有效的交叉网络来学习有限次数特征交互，不需要进行手动特征工程，且几乎不会增加 DNN 模型的复杂性，针对 CTR 预测数据集和密集分类数据集进行了实验，结果表明该模型在模型精度和内存使用方面都优于当前最先进的算法。

    Aug, 2017

  • DCN V2: 改进的深度交叉网络与基于 Web 规模的排序学习系统实践经验

    在大规模工业应用中，我们提出了改进版 DCN（DCN-V2）框架，以便更高效地学习特征交互。经广泛超参数搜索和模型调试等实验验证，改进版 DCN-V2 算法表现优于当今所有最新算法。该算法更具表现力，仍然具有成本效益，在低秩架构的混合耦合情况下，可用作构建块，并在 Google 的许多大规模学习排名系统中提高了离线精度和在线业务指标。

    Aug, 2020

  • 基于偏好动态调整和属性感知的相关推荐网络：DPAN

    电子商务平台中，我们提出了一种名为 DPAN 的新方法，通过学习细粒度的相似性和多样性表示并捕捉用户在不同条件下的动态偏好，来预测相关推荐中的点击率（CTR），经过离线实验和在线 A/B 测试的验证，CTR 提高了 7.62%。

    Aug, 2023

  • 基于产品的神经网络用于用户响应预测

    本文提出了一种基于产品的神经网络模型（PNN），通过嵌入层来学习分类数据的分布式表示，通过乘积层来捕获领域之间的互动模式，并进一步完全连接的层来探索高阶特征交互，实验证明在两个大规模实际广告点击数据集上，PNN 模型在各种指标上都优于现有的基准模型。

    Nov, 2016

  • 基于多场分类数据的深度学习：以用户响应预测为例研究

    本文提出两种使用深度神经网络来预测用户响应的新模型，通过三种特征转换方法的借助，能够自动学习有效的分类特征交互模式，并对用户的广告点击进行预测。大规模的实验表明，我们的方法比现有主流模型更好。

    Jan, 2016

  • 用于人员识别的交叉关注网络

    本文提出了一种名为 CCA 的注意力模块，旨在通过最大化不同注意区域之间的信息增益来克服以前的限制，并提出了一种新的深层网络，利用不同的注意力机制学习人物图像的强鲁棒性和判别表现，得到的模型被称为 CCAN，大量实验证明 CCAN 在人物重新识别任务上优于当前状态下的最先进算法。

    Jun, 2020

  • CAP: 一种用于 NAS 的上下文感知神经预测器

    提出了一种基于上下文信息的神经预测器（CAP），只需使用少量标注的架构进行训练，通过上下文结构和自监督任务获得表达丰富且具有泛化性的架构表示，从而在神经架构搜索中具有突出的性能表现，并在不同搜索空间以及 CIFAR-10 数据集上展现出导航搜索空间的有效性。

    Jun, 2024

  • 面向细粒度视觉分类的上下文感知注意池化 (CAP)

    提出了一种基于上下文感知的注意力池化（CAP）方法和特征编码技术，可以有效地捕获子像素梯度，无需边界框和 / 或可区分的部分注释，从而学习关键部位的特征表示。经过在六个最先进的骨干网络和八个基准数据集上的评估，该方法在六个数据集上表现显著优于最先进的方法，并且在其余两个数据集上非常有竞争力。

    Jan, 2021

  • 面向操作的神经网络用于用户响应预测

    ONN 是一种新的神经模型，可以针对不同的操作学习不同的表示，用于用户响应预测，广告系统和推荐系统的高维稀疏特征中的特征交互，实验结果表明 ONT 可以优于现有模型。

    Apr, 2019

  • 面向多标签分类的上下文感知胶囊网络

    我们提出了一种改进的胶囊网络架构，包括新的路由权重初始化技术、利用条件随机场利用主要胶囊激活之间的语义关系的改进 CapsNet 设计和基于 Cholesky 变换的相关模块，为多标签分类任务提供了更好的可扩展性。

    Oct, 2018