推荐系统中的分块特征交互
本文提出了 FiBiNET 模型,通过 Squeeze-Excitation 网络机制学习特征重要性,通过双线性函数有效地学习特征交互,结果显示该模型在真实数据集上的性能优于其他浅层模型和深度模型。
May, 2019
在大规模工业应用中,我们提出了改进版 DCN(DCN-V2)框架,以便更高效地学习特征交互。经广泛超参数搜索和模型调试等实验验证,改进版 DCN-V2 算法表现优于当今所有最新算法。该算法更具表现力,仍然具有成本效益,在低秩架构的混合耦合情况下,可用作构建块,并在 Google 的许多大规模学习排名系统中提高了离线精度和在线业务指标。
Aug, 2020
本文提出了一种深度双线性变换(DBT)块,可以在卷积神经网络中深度堆叠,以学习细粒度图像表示,其利用双线性变换在每个语义组内计算成对交互的方式,显著减轻了计算成本,能够在 CUB-Bird、Stanford-Car 和 FGVC-Aircraft 等多个细粒度图像识别基准测试中取得新的最佳表现。
Nov, 2019
本篇论文提出了一种名为 eXtreme Deep Factorization Machine (xDeepFM) 的模型,它通过 Compressed Interaction Network (CIN) 生成 feature interactions,并且可以显式地和隐式地学习 variable order feature interactions,实验结果表明其优于现有的模型。
Mar, 2018
本文介绍了一种新型深度神经网络 ——Deep & Cross Network (DCN),能够在保留 DNN 模型优势的基础上,引入有效的交叉网络来学习有限次数特征交互,不需要进行手动特征工程,且几乎不会增加 DNN 模型的复杂性,针对 CTR 预测数据集和密集分类数据集进行了实验,结果表明该模型在模型精度和内存使用方面都优于当前最先进的算法。
Aug, 2017
本文提出了一种新的模型叫做 Feature Interaction Graph Neural Networks (Fi-GNN),可以用于解决 Web 应用中在线广告和推荐系统等任务的 click-through rate(CTR)预测问题。该模型利用图的强大特征表示能力,可以灵活、明确地建模复杂的特征交互,同时还能提供很好的模型解释性,并在真实数据集上得到了优于现有技术的实验结果。
Oct, 2019
本文介绍了一种用于单张图像超分辨率重建的神经网络模型 FIWHN,通过将 WDIB 组成 FSWG、WCRW 和 WIRW 单元、WRDC 框架和 SCF 单元等方式,解决了模型复杂度高、中间特征丢失等问题,并引入了 Transformer,实现了 CNN 和 Transformer 的新型组合,结果表明 FIWHN 能够在性能和效率之间取得良好的平衡,更有利于下游任务解决低像素场景中的问题。
Dec, 2022
本文介绍了一种轻量级、高效的特征蒸馏相互加权网络(FDIWN),其利用一系列经过特殊设计的特征洗牌加权组(FSWG)作为骨架,多个新颖的 Wide-residual Distillation Interaction Blocks(WDIB)组成 FSWG。通过引入 Wide Identical Residual Weighting(WIRW)单元和 Wide Convolutional Residual Weighting(WCRW)单元来实现更好的特征蒸馏。此外,提出了 Wide-Residual Distillation Connection(WRDC)框架和 Self-Calibration Fusion(SCF)单元,以更灵活、更高效地相互作用不同尺度的特征。大量实验证明,相较于其他模型,FDIWN 在模型性能与效率之间取得了良好的平衡。
Dec, 2021
利用改进的图卷积网络和针对 Top-K 物品推荐的二值协同过滤方法来应对真实世界中推荐系统中的挑战,并通过将排名信息转化为二值表示来提高在线推荐的效率。
Jun, 2019