BriefGPT.xyz
Ask
alpha
关键词
fnet
搜索结果 - 2
基于 FNet 的自编码器用于长序列新闻故事生成
使用基于 Google FNet 架构的自动编码器从 Google C4 数据集中的新闻文章的子集生成文本,比起 BERT 编码器,FNet 具有更高的效率,并进行了不同时期的输出比较,以及分析了自动编码器在不同的种子文本下的输出。
PDF
2 years ago
Fast-FNet: 通过高效傅里叶层加速 Transformer Encoder 模型
本研究比较了基于 Transformer 的语言模型中的注意力机制和傅里叶变换,并提出了几种采用更高效的傅里叶变换的模型架构,以提高模型效率。
PDF
2 years ago
Prev
Next