ACLJun, 2021
Hi-Transformer: 高效、有效的长文档建模的分层交互式 Transformer
Hi-Transformer: Hierarchical Interactive Transformer for Efficient and Effective Long Document Modeling
Chuhan Wu, Fangzhao Wu, Tao Qi, Yongfeng Huang
TL;DR提出一种称为 Hi-Transformer 的层次交互 Transformer 模型,通过学习每个句子的表示来获取全局文档信息,可以高效、有效地处理长文档建模问题。