BriefGPT.xyz
Ask
alpha
关键词
efficient transformer
搜索结果 - 3
Diffuser:基于多跳关注扩散的高效长序列 Transformer 模型
提出了一种新的高效 Transformer 模型 Diffuser,在保持低计算量和内存成本的同时,通过 Attention Diffusion 扩大了基于稀疏注意力的 receptive field,并且通过实验证明,在文本分类和 LRA
→
PDF
2 years ago
CVPR
自校准高效变换器(Self-Calibrated Efficient Transformer)用于轻量级超分辨率(Lightweight Super-Resolution)
本文提出使用深度学习的自校准高效变换器 (SCET) 网络,通过采用像素关注机制来提取图像特征,并使用高效变换器来获取相似的长距离特征,以恢复足够的纹理细节,该方法在不同环境下获得更为出色的性能。
PDF
2 years ago
EMNLP
带有键值记忆的线性变换器
提出了 MemSizer 方法来实现低维度表示和类似于基于核的 Transformer 的增量计算,从而在机器翻译、文本摘要和语言建模等三个应用任务中提高了效率和准确性。
PDF
2 years ago
Prev
Next