BriefGPT.xyz
Ask
alpha
关键词
clustered attention
搜索结果 - 1
聚类注意力实现快速 Transformer
本文提出聚类注意力机制以解决 transformers 模型在处理长序列时,注意力矩阵的求解复杂度很高的问题,同时在计算预定义聚类的质心时,能够处理自由形式的注意力机制。
PDF
4 years ago
Prev
Next