本文提出一种基于分块离散余弦变换（DCT）块的生成模型，使用Transformer-based自回归模型对块进行预测，以生成高质量、多样化的图像，并展示了对于简单的改进，该方法在图像着色和高精度图像放大方面也具有有效性。

Mar, 2021

本文提出了一种两阶段的框架，由残差量化VAE（RQ-VAE）和RQ-Transformer组成，旨在有效地生成高分辨率图像，通过精确的逼近，我们可以将256×256像素的图像表示为8×8特征映射，并且RQ-Transformer可以在保证生成高品质图像的同时减少计算成本。

Mar, 2022

本文针对自回归模型在计算机视觉领域无法与其他自监督学习方法相比的问题，通过引入随机排列策略和并行编码-解码训练过程，提出了一种名为SAIM的新型随机自回归图像建模方法，取得了极大的性能提升，特别是在基于ImageNet-1K数据的视觉变换任务方面达到最佳精度83.9%。

Dec, 2022

提出了一种新的两阶段框架，它使用动态量化 VAE 将图像区域编码为基于其信息密度的可变长度代码，以实现更准确，更紧凑的代码表示，从而解决了现有 VQ 基于自回归模型的固定长度编码问题，该方法通过一种新的堆叠 Transformer 架构和共享内容、独立位置输入层设计，从粗粒度到细粒度生成图像。

May, 2023

本研究提出了一种新的两阶段框架，包括掩蔽量化VAE（MQ-VAE）和Stackformer，在图像生成中减轻冗余感知信息的影响，实现了高效有效的图像生成。

May, 2023

Visual AutoRegressive modeling (VAR) improves autoregressive image generation surpassing diffusion transformers, exhibiting power-law scaling laws and zero-shot task generalization.

Apr, 2024

LlamaGen是一种新型的图像生成模型家族，采用大型语言模型中的原始“下一个标记预测”范例应用于视觉生成领域，不附带对视觉信号的归纳偏见，可以在适当缩放的情况下实现最先进的图像生成性能。

Jun, 2024

我们提出了使用扩散过程模型每个令牌的概率分布，从而可以将自回归模型应用于连续值空间的方法，并通过定义扩散损失函数来替代离散化的令牌化。通过消除向量量化，我们的图像生成器在享受序列建模的速度优势的同时取得了强大的结果，并希望该方法能促进在其他连续值领域和应用中使用自回归生成。

Jun, 2024

本研究针对现有多模态方法中自回归文本生成与扩散视觉生成使用分离主干的问题，提出了共享单一变压器的创新思路。研究表明，该方法在图像生成性能上可与当前最先进的方法媲美，同时保留文本生成能力，具有广泛的应用潜力。

Sep, 2024

本研究解决了图像标记长度对图像重构和生成质量之间的权衡问题。提出的ImageFolder语义标记器通过折叠标记的方式提升自回归建模的生成效率和质量，利用双分支产品量化增强代表能力而不增加标记长度。实验结果表明，ImageFolder标记器在生成质量和标记长度方面表现优越。

Oct, 2024