Nov, 2020
自注意力在基于 Transformer 的自动语音识别中的应用价值
On the Usefulness of Self-Attention for Automatic Speech Recognition with Transformers
Shucong Zhang, Erfan Loweimi, Peter Bell, Steve Renals
TL;DR本研究研究了 Transformers 中自注意力机制在音频识别中的应用,发现在训练较高的编码层时,全局视图不是必须的。