AdaCat: 自适应离散化用于自回归模型

Aug, 2022

AdaCat: 自适应离散化用于自回归模型

AdaCat: Adaptive Categorical Discretization for Autoregressive Models

Qiyang Li, Ajay Jain, Pieter Abbeel

TL;DR通过提出一种自适应的分类离散化方法，优化自回归生成模型中的连续数据分布，提高参数效率，并在现实世界的数据、图像、音频和轨迹中改善密度估计，同时改进了基于模型的离线强化学习中的规划。

Abstract

autoregressive generative models can estimate complex continuous data distributions, like trajectory rollouts in an RL environment, image intensities, and audio. Most state-of-the-art models discretize continuous data into several bins and use categorical distributions over the bins to

autoregressive generative models continuous data distribution adaptive categorical discretization parameter efficiency model-based offline rl

发现论文，激发创造

类别数据的连续扩散

本文介绍了 CDCD 框架，该框架是一种对分类数据进行扩散建模的方法，同时保持了连续时间和输入空间的特性，并在多个语言建模任务中证明了其有效性。

Nov, 2022

无向量量化的自回归图像生成

我们提出了使用扩散过程模型每个令牌的概率分布，从而可以将自回归模型应用于连续值空间的方法，并通过定义扩散损失函数来替代离散化的令牌化。通过消除向量量化，我们的图像生成器在享受序列建模的速度优势的同时取得了强大的结果，并希望该方法能促进在其他连续值领域和应用中使用自回归生成。

Jun, 2024

利用 CatLog 导数技巧对分类分布进行可微分抽样

我们提出了 CatLog-Derivative 技巧，该技巧针对分类分布，并用于引入 IndeCateR，一个新颖且无偏的梯度估计器，具有比 REINFORCE 更低方差的重要独立分类分布产品情况，并通过实验证明同样数量的样本下 IndeCateR 的梯度估计具有显著较低的偏差和方差。

Nov, 2023

自回归扩散模型

本文介绍了 AR 模型中的一种 Autoregressive Diffusion Models，相较于其他模型具有更高的性能表现。同时，作者还将该模型应用于无损压缩，并表明该模型在此任务上也表现出了极佳的结果，其适用于数据点的压缩及适应各种生成任务。

Oct, 2021

基于模型的强化学习的自适应离散化

本篇论文介绍了一种基于模型的适应性离散技术，在大型（潜在连续的）状态 - 动作空间中设计一种高效的基于情节的强化学习算法，并通过实验证明，该算法在收敛速度和存储空间利用效率方面显著优于固定离散化。

Jul, 2020

自回归扩散模型的判别指导

在 Autoregressive Diffusion Models 中引入鉴别器指导，结合预先训练的生成模型，在离散情况下使用最优鉴别器可以纠正预训练模型并从底层数据分布中精确采样；针对使用次优鉴别器的实际情况，我们提出了一种顺序蒙特卡罗算法，在生成过程中迭代地考虑鉴别器的预测。我们在生成分子图的任务上对这些方法进行了测试，展示了鉴别器如何提高生成性能，超过仅使用预先训练的模型。

Oct, 2023

增广和缩减：针对大规模分类分布的随机推理

提出了一种称为 A&R 的新方法，结合了潜变量增强和随机变分推理的思想，用于更高效地处理机器学习中常见的分类问题。在大规模分类问题上，相比现有方法，A&R 提供了更紧的数据边际似然下界，具有更好的预测性能。

Feb, 2018

实现逼真音乐生成的挑战：在规模上对原始音频进行建模

本文探讨了采用自回归离散自编码器（ADAs）来模拟音乐块之间的长期依赖关系的方法，实现了在原始音频域中生成具有风格一致性的钢琴音乐。

Jun, 2018

自回归扩散变换器用于文本到语音合成

通过使用连续空间中的向量序列将音频编码为完美重构的高码率连续语音表示，我们提出了一个仅使用解码器的扩散变换器（ARDiT），在零样本语音合成和其他生成任务中表现出与最先进模型相当或优于其的性能。通过在自回归步骤中采用积分 Kullback-Leibler 散度进行蒸馏，我们显著提高了样本的感知质量，并将扩散模型的迭代采样过程压缩为单一步骤。此外，ARDiT 可以训练以一步预测多个连续向量，从而显著减少采样时的延迟。

Jun, 2024

使用扩散模型生成符号音乐

本文提出了一种基于预训练变分自编码器的离散领域参数化的扩散模型训练技术，用于离散和连续领域的生成导致更优结果，并在应用于符号音乐领域时表现出很强的无条件生成和条件填充结果，相比基于自回归语言模型的连续嵌入操作更具可行性。

Mar, 2021