mbart | BriefGPT - AI 论文速递

关键词mbart

搜索结果 - 12

生成任务中有效的零射击跨语言知识转移的关键要素
零 - shot 跨语言生成的前提是在一个语言上对多语言预训练语言模型进行微调，并将其用于其他语言的生成任务中。先前的研究注意到生成错误语言的频繁问题，并提出了解决方法，通常使用 mT5 作为基础模型。本研究在统一设置下比较了文献中提出的各
PDF4 months ago
预训练的多语言语言模型在零差生成中的实证研究
通过在一个语言上对多语言预训练语言模型（mPLM）进行微调，再在其他语言上使用它进行预测，零样本跨语言生成通常会出现使用错误语言生成的问题，本研究测试了替代的 mPLMs（如 mBART 和 NLLB），考虑到全微调和适配器参数高效微调，并
PDF9 months ago
使用多语言变压器模型对印度语言进行摘要
本研究采用 IndicBART 和 mT5 模型，研究它们在印度语言数据集上的摘要性能，结果以 ROUGE-1、ROUGE-2、ROUGE-3 和 ROUGE-4 分数为性能指标。
PDFa year ago
Gui at MixMT 2022: 英印混杂数据的机器翻译方法
本文讨论了在 WMT 2022 共享任务中使用 mBART 进行处理特殊预处理和后处理（从 Devanagari 到 Roman 的音译），以解决单语到机器混合翻译的任务，并讨论了针对机器混合 Hinglish 到单语英语的翻译实验。
PDF2 years ago
Silo NLP 参加 WAT2022
本文介绍了 “Silo NLP” 的多模式翻译系统在 2022 年亚洲翻译研讨会上的参赛情况，利用 Transformers 和 mBART-50 模型作为基础，提取图像中的对象标签作为视觉特征，用于英语到印度语的多模式，以及英语到马拉雅拉
PDF2 years ago
EMNLPPhoMT: 一个高质量和大规模的越南语 - 英语机器翻译基准数据集
本文介绍了一个高质量、大规模的越南语 - 英语平行数据集，进行了机器翻译的比较实验，结果表明在预训练序列到序列去噪自编码器 mBART 上的微调获得了最好的性能，这是第一个大规模的越南语 - 英语机器翻译研究，希望这个公开的数据集和研究能成
PDF3 years ago
EMNLP基于多语言 Transformer 的序列 - 序列词汇规范化
本论文通过使用基于 mBART 的句子级序列到序列模型，将自然语言处理中的标准化问题归结为机器翻译问题，利用多语言预训练技术进行 fine-tuned，优于操作原始社交媒体文本的模型，在下游任务中实现性能提升。
PDF3 years ago
ACLViTA: 通过对齐对象标签进行视觉语言翻译
该论文提出了一种名为 Volta 的系统，通过提取图像中的对象标签来增强多模式机器翻译系统的文本输入，成功地在 WAT 2021 的多模式翻译任务中获得了 BLEU 分数 44.6 和 51.6。
PDF3 years ago
探索文本到文本变换器的使用，实现英语到印地语机器翻译的合成混合代码技术
本研究尝试解决单语言和混合编码语言之间的翻译问题，针对单语英文到 Hinglish 的转换，我们提出了多种模型，其中使用事先训练的 mT5 和 mBART Transformer-based 编码器 - 解码器模型表现良好。同时，我们还提出
PDF3 years ago
使用预训练模型和适配器进行端到端的语音翻译：UPC 在 IWSLT 2021
本文介绍了 UPC 机器翻译小组提交给 IWSLT2021 离线语音翻译任务的参赛作品，是一个基于端到端的离线语音翻译系统，采用预训练模型 Wav2Vec 2.0 和 mBART 的联合技术，在仅训练 20% 的参数的前提下获得了 27.3
PDF3 years ago
ACL适应预训练的单语和多语模型的机器翻译配方
本文旨在研究利用预训练模型进行机器翻译时，冻结参数与添加新参数来微调预训练模型的优点和缺点，通过试验方式得出最优结果。结果表明，当微调 monolingual 预训练模型时，通过冻结大部分模型参数并添加更多的位置嵌入可以在机器翻译任务中获得
PDF4 years ago
多语言去噪预训练用于神经机器翻译
本文的研究表明，多语言去噪预训练在各种机器翻译任务中都有显著的性能提升，通过使用 BART 目标在许多语言的大规模单语语料库上进行序列到序列去噪自动编码器的预训练，我们提出了 mBART。mBART 是预训练完整序列到序列模型的首个方法之一
PDF4 years ago