autoregressive transformer | BriefGPT

关键词autoregressive transformer

搜索结果 - 9

ICML具有上下文感知标记化的高效世界模型
通过构建 Delta-IRIS，一个世界模型结构，利用离散自编码器和自回归变换器来预测未来时间步的变化量，本研究在 Crafter 基准测试中取得了新的最高水平，而且训练速度比以前的基于注意力的方法快一个数量级。
PDF7 days ago
超越：生成模型能超过训练它们的专家
研究表明，通过低温抽样，训练生成模型可以实现超越数据生成专家的能力，这在国际象棋中得到了实验证明。
PDF17 days ago
iVideoGPT: 可扩展世界模型的交互式 VideoGPT
通过引入 Interactive VideoGPT (iVideoGPT) 框架，可以在实现世界决策过程中，使模型交互地探索、推理和规划。 iVideoGPT 通过将多模态信号（视觉观察，行为和奖励）整合成一系列令牌，实现了通过下一个令牌预
PDFa month ago
BASE TTS：基于 100K 小时数据构建亿参数的文本转语音模型的经验教训
我们介绍了一个名为 BASE TTS 的文本转语音 (TTS) 模型，它是迄今为止最大的 TTS 模型，以 100K 小时的公共领域语音数据进行训练，在语音自然度方面取得了最新的最佳效果。
PDF5 months ago
VideoPoet: 用于零样本视频生成的大型语言模型
VideoPoet 是一种语言模型，能够从多种信号条件下合成配有匹配音频的高质量视频。该模型采用解码器式 Transformer 架构处理多模态输入，包括图像、视频、文本和音频，通过两个阶段的预训练和任务特定的适应来训练。我们通过实证结果展
PDF6 months ago
大型语言模型中的功能向量
通过对多样的上下文学习任务的因果中介分析，我们发现一种简单的神经机制，在自回归 Transformer 语言模型中将输入输出函数表示为向量，这种向量被我们称为函数向量（Function Vector）。函数向量（FV）对上下文的变化具有鲁棒
PDF8 months ago
使用视频预测模型作为强化学习的奖励
本研究提出了一种名为 VIPER 的算法，可以从未标记的视频中提取出训练模型，作为强化学习的无手段奖励信号，以实现专家级控制，在 Atari 和 RLBench 等任务中具有良好的通用性和扩展性。
PDFa year ago
ICLRTransformer 是高效样本的世界模型
IRIS 是一个深度强化学习代理，学习于由离散自动编码器和自回归 Transformer 组成的世界模型中，仅用两小时的时间即可在 Atari 100k 基准测试中实现 1.046 的平均人类标准化得分，在 26 个游戏中有 10 个游戏超
PDF2 years ago
CLIP-GEN: 使用 CLIP 进行无需语言条件的文本 - 图像生成训练
本文提出了一种自监督学习策略 CLIP-GEN 用于通用的文本生成图像，只需要通用领域的未标记图像。我们使用来自 CLIP 的语言 - 图像先验知识，并使用自编码器和自回归变换器将图像转换为文本标记，并基于这里从文本编码器中提取的文本嵌入生
PDF2 years ago