BriefGPT.xyz
May, 2023
可变长度嵌入
Variable Length Embeddings
HTML
PDF
Johnathan Chiu, Andi Gu, Matt Zhou
TL;DR
本文介绍了一种新的深度学习架构，Variable Length Embeddings (VLEs)，一种可以生成由任意数量的标记组成的潜在表示的自回归模型。我们证明了VLEs的能力，并在iNaturalist和ImageNet数据集的混合实验中评估了我们的实验结果，发现VLEs在使用不到十分之一的参数的情况下，可以达到与最先进的VAE相当的重构结果。
Abstract
In this work, we introduce a novel
deep learning
architecture,
variable length embeddings
(VLEs), an
autoregressive model
that can produce
→