本文提出一种基于分块离散余弦变换（DCT）块的生成模型，使用Transformer-based自回归模型对块进行预测，以生成高质量、多样化的图像，并展示了对于简单的改进，该方法在图像着色和高精度图像放大方面也具有有效性。

Mar, 2021

本文提出了一种两阶段的框架，由残差量化VAE（RQ-VAE）和RQ-Transformer组成，旨在有效地生成高分辨率图像，通过精确的逼近，我们可以将256×256像素的图像表示为8×8特征映射，并且RQ-Transformer可以在保证生成高品质图像的同时减少计算成本。

Mar, 2022

该研究提出了一种有效的基于文本上下文和全局语境的图像生成框架，名为Draft-and-Revise with Contextual RQ-transformer，通过Contextual RQ-transformer考虑图像全局上下文信息以最大程度地反映全局语境。在实验中，我们的方法在条件图像生成上达到了最先进的效果。

Jun, 2022

本研究提出了一种新的两阶段框架，包括掩蔽量化VAE（MQ-VAE）和Stackformer，在图像生成中减轻冗余感知信息的影响，实现了高效有效的图像生成。

May, 2023

通过引入局部关注机制、融合全局关注和局部关注机制、以及自动编码训练和自回归生成策略，提出了一种高分辨率图像生成的高效两阶段框架，实现了更高效率、更好的重建质量和更高分辨率的图像合成。

Oct, 2023

我们提出了使用扩散过程模型每个令牌的概率分布，从而可以将自回归模型应用于连续值空间的方法，并通过定义扩散损失函数来替代离散化的令牌化。通过消除向量量化，我们的图像生成器在享受序列建模的速度优势的同时取得了强大的结果，并希望该方法能促进在其他连续值领域和应用中使用自回归生成。

Jun, 2024

本研究解决了图像和视频生成领域在离散化方面的挑战，提出了一种基于规范编解码器（如JPEG、AVC/H.264）直接建模图像和视频的新方法。研究发现，该方法比传统的像素建模和复杂的向量量化算法更有效，对于生成罕见视觉元素具有显著优势。这一创新方法有助于降低语言生成与视觉生成之间的壁垒，促进多模态大型语言模型的进一步研究。

Aug, 2024

本研究解决了在视觉生成中的离散化问题，通过采用典型编解码器（如JPEG和AVC/H.264）直接建模图像和视频作为压缩文件，而非处理原始像素值或复杂的向量量化。这一新颖方法使生成性能在减少FID指标方面优于传统模型，特别是在生成长尾视觉元素上表现出色，推动了多模态语言/图像/视频模型的未来研究。

Aug, 2024

本研究解决了向量量化自回归图像生成中的信息损失瓶颈，通过引入一种新的二维自回归变压器（DnD-Transformer）模型架构。相比传统的一维自回归方法，DnD-Transformer以新的自回归方向和模型深度实现更高质量的图像生成，并在自我监督的方式下有效生成包含文本和图形元素的图像，展示出其视觉语言智能的潜力。

Oct, 2024

本研究解决了图像生成任务中现有方法的性能瓶颈，提出了一种新的随机自回归建模（RAR）方法，通过在训练过程中随机排列输入序列，显著提高模型的双向上下文建模能力。该方法在ImageNet-256基准上的FID分数达到1.48，不仅超越了之前的自回归图像生成模型，还优于前沿的扩散基和掩码变换器方法，具有重要影响。

Nov, 2024