generation efficiency | BriefGPT

关键词generation efficiency

搜索结果 - 5

级联奖励采样用于高效解码时间对齐
通过级联奖励采样（CARDS）技术，可以在高效并且成本低的情况下生成既有高奖励又符合高似然概率的文本，大幅提升生成效率和对齐评分。
PDF12 days ago
σ-GPTs: 一种新的自回归模型方法
通过为输出添加位置编码，可以实时调节样本的顺序，从而提供优越的性能；该方法在不同领域进行评估，能够显著降低生成所需步骤数。
PDF3 months ago
通过可控潜在扩散实现同义重述生成的强制执行
本文提出一种名为 LDP 的新型模型，即 extit {L} atent extit {D} iffusion extit {P} araphraser，用于生成改写句，通过建模可控的扩散过程，并在学习到的潜在空间中实现了更高的生成效率
PDF3 months ago
具有剩余记忆变换器的可控文本生成
本研究提出了一种用于控制文本生成的非侵入式、轻量级控制插件，名为 Residual Memory Transformer（RMT），通过与 Causal Language Models（CLMs）合作，采用残余学习范式，实现了更灵活、更通用
PDF9 months ago
ACLENCONTER: 基于插入式 Transformer 的实体约束渐进式序列生成
该研究分析自回归语言模型在硬词汇约束下表现不佳的问题，并提出了一种称为 Entity-constrained insertion transformer (ENCONTER) 的新型插入变压器，该变压器在不损失太多生成效率的情况下解决了这个
PDF3 years ago