本研究探讨了生成建模中潜在空间选择的最优解以及其确定过程，并提出了一种新的距离度量方法和具体的训练策略来优化潜在空间的选择，进而提高生成效果。

Jul, 2023

通过概率质量函数的概念，结合量化处理，我们引入了一种新颖的后训练采样算法，该算法可以从生成模型的潜在空间中取样，使得重建的样本更接近真实图像。我们的方法在速度上大大提高了运行效率，性能优于基于高斯混合模型的采样技术，并在一系列模型和数据集上展现了显著的改进。我们还证实了我们的方法在估算潜在空间分布方面的有效性，相比于高斯混合模型的采样技术，特别是通过Wasserstein距离的比较。

Aug, 2023

LlamaGen是一种新型的图像生成模型家族，采用大型语言模型中的原始“下一个标记预测”范例应用于视觉生成领域，不附带对视觉信号的归纳偏见，可以在适当缩放的情况下实现最先进的图像生成性能。

Jun, 2024

我们提出了使用扩散过程模型每个令牌的概率分布，从而可以将自回归模型应用于连续值空间的方法，并通过定义扩散损失函数来替代离散化的令牌化。通过消除向量量化，我们的图像生成器在享受序列建模的速度优势的同时取得了强大的结果，并希望该方法能促进在其他连续值领域和应用中使用自回归生成。

Jun, 2024

本研究解决了生成建模中潜在空间表示的紧凑性和有效性问题。我们提出一种通过松弛Vector Quantization（VQ）假设的新方法，采用字典学习和稀疏约束的潜在空间表示。实验证明，该方法在重构质量和表达能力上超越了VQ方法，同时有效解决了常见的代码本崩溃问题。

Sep, 2024

本文针对潜在扩散模型在生成高频细节和复杂构图方面的不足提出了一种解决方案，强调在后训练过程中引入像素空间监督。实验表明，这种新方法显著提升了生成图像的视觉质量和指标表现，同时保持了文本对齐的质量。

Sep, 2024

本研究解决了图像标记长度对图像重构和生成质量之间的权衡问题。提出的ImageFolder语义标记器通过折叠标记的方式提升自回归建模的生成效率和质量，利用双分支产品量化增强代表能力而不增加标记长度。实验结果表明，ImageFolder标记器在生成质量和标记长度方面表现优越。

Oct, 2024

本研究解决了自回归模型在文本到图像生成中扩展性不足的问题，探讨了使用离散令牌和连续令牌的影响，以及生成令牌的顺序。结果表明，基于连续令牌的模型在视觉质量上显著优于离散令牌模型，且随机生成的模型在GenEval评分上表现更佳。Fluid模型在MS-COCO 30K上实现了新的无监督FID最优状态，推动了视觉和语言模型之间的扩展研究。

Oct, 2024

本研究针对语言模型在图像生成中的应用存在的设计空间不足进行了探讨，揭示了图像标记与文本标记的随机性差异对训练的挑战。研究表明，尽管较小模型在捕捉全局上下文方面存在局限性，但较大模型的表现得到了显著提升，本研究为语言模型在视觉生成领域的有效设计提供了重要见解。

Oct, 2024

本研究针对自回归模型在计算机视觉领域应用的文献进行全面审视，填补了目前在该领域的知识空白。论文提供了一种新颖的分类方法，将视觉自回归模型划分为像素、标记和尺度等三种基本子类别，并探讨了其在图像生成、视频生成、3D生成等多个领域的应用。研究还指出了当前自回归模型在视觉中的挑战，并提出了未来的研究方向。

Nov, 2024