BriefGPT.xyz
Ask
alpha
关键词
sparse universal transformer
搜索结果 - 1
稀疏通用变压器
提出了 Sparse Universal Transformer (SUT),利用稀疏专家混合(SMoE)和基于断裂棒的动态终止机制来减少 UT 的计算复杂性,同时保持其参数效率和泛化能力。实验证明,SUT 在 WMT'14 上仅使用一半的
→
PDF
9 months ago
Prev
Next