Oct, 2023
使用自适应多头注意力的 Transformer 情感分析
Sentiment analysis with adaptive multi-head attention in Transformer
Fanfei Meng, David Demeter
TL;DR提出了一种基于注意机制的新型框架,用于识别电影评论文档的情感。通过自适应多头注意力架构 (AdaptAttn) 根据句子长度变化注意头的数量,在 Stanford 大型电影评论数据集上的实验结果显示,我们的模型的 F1 得分与基准模型相当。