non-autoregressive | BriefGPT

关键词non-autoregressive

搜索结果 - 31

关于基于提示条件的语音合成的语言模型的实证研究
研究报告通过对自动回归 (AR) 和非自动回归 (NAR) 语音语言模型的实证研究，为提示设计和内容语义单元提供了深入洞察。分析表明，异构和非平稳的提示对音频质量有害，与之前发现提醒较长始终会产生更好的合成的结论形成对比。此外，我们发现除了
PDF3 months ago
AAAI错误定位：使用线框定位器进行非自回归图形布局生成
通过深入分析自回归和非自回归框架的差异，本文提出了一种基于学习的定位器，使用从生成的布局序列中渲染的线框图像作为输入来检测错误的标记，并证明其在全局背景模型和误差传播方面的有效性。
PDF5 months ago
ProNet：面向多时间跨度时间序列预测的渐进神经网络
介绍了一种名为 ProNet 的全新深度学习方法，专为多时间段时间序列预测而设计，自适应地融合了自回归（AR）和非自回归（NAR）策略。通过将预测时间段划分为若干段，采用非自回归策略对每一段中最关键的步骤进行预测，而对剩余的步骤采用自回归策
PDF8 months ago
边界与填充：一种快速灵活的图像描述框架
基于边界和填充技术的快速灵活图像标题生成模型 BoFiCap 在不自回归和半自回归方式下，在性能需求与速度上均取得了令人瞩目的结果。
PDF9 months ago
GLOBER: 通过全球引导视频解码器实现一致的非自回归视频生成
该研究提出了一种名为 GLOBER 的新的非自回归方法，首先生成全局特征以获得全面的全局引导，然后根据全局特征合成视频帧以生成连贯的视频；通过引入新的对抗性损失，改善合成视频帧之间的全局连贯性和局部真实性；通过扩散式视频生成器适应视频编码器
PDF9 months ago
ACL一个用于依存图解析的半自回归图生成模型
本文针对现有神经依存分析模型中，autoregressive 和 non-autoregressive 模式的缺陷，提出了一种 semi-autoregressive 模型来提高句法分析的准确性。该模型在多种语言的实验中体现出较好的性能表现
PDFa year ago
基于 Transformer 的语音自动识别模型，考虑词汇语义的非自回归模型
提出了一种基于 Transformer 的、有词汇感知的自动语音识别框架，可以同时训练语音和文本数据，并松弛条件独立性，实现更快的解码速度和较好的性能。实验结果表明，该模型比其他最近提出的非自回归 ASR 模型更具优越性，并且比大多数非自回
PDFa year ago
SoundStorm: 高效并行音频生成
SoundStorm is a non-autoregressive audio generation model that uses semantic tokens and bidirectional attention to effic
PDFa year ago
TESS: 文本到文本自条件简单扩散
本文提出了全非自回归文本扩散模型 Text-to-text Self-conditioned Simplex Diffusion (TESS)，将扩散过程应用于逻辑回归空间，具有新形式的自我条件和完全非自回归的特点。在包括摘要、文本简化、释
PDFa year ago
AAAIAMOM: 条件掩码语言模型的自适应掩码
本文介绍了一种简单而有效的自适应遮盖策略，用于增强解码器的细化能力和简化编码器优化，证明该方法在多任务序列生成中超越了强大的 CMLM 模型，在机器翻译任务中获得了最先进的性能，并在至少 2.2 倍的加速下比 AR Transformer
PDFa year ago
WMT 2022 高效率任务的 RoyalFlush 系统
本文描述了皇家同花顺神经机器翻译系统提交至 WMT 2022 翻译效率任务，采用了两阶段的混合回归翻译系统，并且通过整合其他建模技术和大量工程努力，达到了与同样容量的 AT 对手相当的翻译性能，并且带来 80％的推理速度提升。
PDF2 years ago
EMNLP非自回归翻译的多粒度优化
本论文提出了一种针对非自回归机器翻译的多粒度优化方法，利用反向传播集成不同粒度的翻译段的模型行为反馈，实现在 WMT 基准测试集上超越对比模型，且在 WMT'16 En-Ro 上实现了最佳性能，在 WMT'14 En-De 上实现了高竞争的
PDF2 years ago
基于 CTC 的 ASR 的上下文感知知识迁移策略
该研究利用一种上下文感知的知识传递策略为基于 CTC 的自动语音识别模型注入语言学信息，提高了其性能表现，通过实验证明了该方法在 AISHELL-1 和 AISHELL-2 数据集上的有效性。
PDF2 years ago
ECCV知识蒸馏产生的非自回归手语生成
提出了一种基于知识蒸馏的非自回归手语翻译模型，该模型通过长度调节器来预测手语姿势序列的末尾，并采用知识蒸馏来缓解错误解码开始问题。实验证明该方法在 Frechet 手势距离和反向翻译评估方面显著优于现有的 SLP 模型。
PDF2 years ago
Paraformer：用于非自回归端到端语音识别的快速准确并行 Transformer
为了加速端到端语音识别中的推理，本文提出了一个名为 Paraformer 的快速且精确的并行 Transformer，其能够通过利用一种基于连续积分和火的预测器来预测令牌数量并生成隐藏变量，并使用瞥见语言模型（GLM）实现语义嵌入，最后设计
PDF2 years ago
ICLRTranSpeech: 双向干扰下的语音翻译
本文提出了使用双向扰动的语音到语音翻译模型 TranSpeech，该模型通过样本的风格归一化和信息提升改善了离散单元之间的声学多模性，并且使用了非自回归技术来提高翻译速度和准确性。实验结果表明，与基准 S2ST 模型相比，BiP 平均提高了
PDF2 years ago
ACL使用非自回归模型的文本编辑模仿学习课程
提出了一个框架以训练非自回归序列到序列模型进行编辑任务，在此过程中，原始输入序列被迭代地编辑以生成输出。通过两种策略解决了在机器翻译训练的模仿学习算法在编辑场景下导致的训练和推断之间不匹配问题，从而显著提高了英文编辑任务上的输出质量和输出复
PDF2 years ago
ICLR文本生成的逐步展开去噪自编码器
本论文提出了一种新的文本生成模型 SUNDAE，该模型不依赖于自回归模型，在自然语言数据集上具有最先进的表现，并且通过填写模板中的任意空白模式，展示出了超越从左到右促成生成的可能性。
PDF3 years ago
MM半自回归式图像字幕
该研究提出了一种新的两阶段模型，称为半自回归图像字幕生成模型，使用部分先验信息和图像特征，先以自回归方式生成一个间歇性序列，然后使用迭代的非自回归方式填充所有跳过的单词，可以更好地权衡性能和速度，并在 MS COCO 基准测试上得到更好的表
PDF3 years ago
非自回归神经机器翻译的序列级训练
本文提出了一种使用序列级训练目标来训练非自回归神经机器翻译模型的方法，通过几种为非自回归定制的新型强化算法，基于 BLEU 等序列级评价指标优化 NAT 模型的训练；介绍了一种基于 Bag-of-Ngrams（BoN）差异的 NAT 模型的
PDF3 years ago