Nov, 2023
动态编码器早期退出的加速编码 - 解码 Transformer 模型
DEED: Dynamic Early Exit on Decoder for Accelerating Encoder-Decoder Transformer Models
Peng Tang, Pengkai Zhu, Tian Li, Srikar Appalaraju, Vijay Mahadevan...
TL;DR通过在解码层执行动态提前退出的方法(DEED),提出了一种多退出的编码器 - 解码器变换器模型,其能够在保持精确性的同时减少推理延迟。