BriefGPT.xyz
Feb, 2024
融合编码器网络
Fusion Encoder Networks
HTML
PDF
Stephen Pasteris, Chris Hicks, Vasilios Mavroudis
TL;DR
本文介绍了融合编码器网络（FENs）：一类用于创建将定长序列映射到输出的神经网络的算法。该神经网络具有对数深度（减轻数据通过网络传播时的退化），可在线性时间内处理序列（或在线性处理器数量下的对数时间）。FENs的关键属性是它们通过并行训练近线性数量的常深度神经网络来进行学习。目前尚未实现FENs，其性能仅为推测。
Abstract
In this paper we present
fusion encoder networks
(FENs): a class of algorithms for creating
neural networks
that map fixed-length sequences to outputs. The resulting neural network has only
→