COLINGOct, 2020
使用自审机制将序列信息注入条件掩码翻译模型
Infusing Sequential Information into Conditional Masked Translation Model with Self-Review Mechanism
Pan Xie, Zhi Cui, Xiuyin Chen, Xiaohui Hu, Jianwei Cui...
TL;DR提出了一种自我审核机制来为条件掩蔽翻译模型注入顺序信息,以改进其翻译精度,而且通过知识蒸馏,该模型甚至可以超过传统的从左到右的 Transformer 模型,同时加速解码。