Aug, 2017

利用注意力网络学习特征交互权重的注意力分解机

TL;DR本文提出了一种基于神经注意力网络的模型,命名为注意力分解机,该模型通过区分不同特征交互的重要性,通过学习数据来改进了因同等加权造成的效率下降的因素分解机,实验证明改进后的注意力分解机在回归任务中相对于因素分解机有 8.6% 的相对改善,而且在结构更简单、模型参数更少的情况下一致优于最先进的深度学习方法 Wide&Deep 和 DeepCross。