machine translation tasks | BriefGPT

关键词machine translation tasks

搜索结果 - 6

大型语言模型下游任务性能的缩放规律
大型语言模型（LLMs）的缩放规律在设计中提供了重要的指导。本文研究了迁移学习中的缩放行为，探讨了预训练数据的选择和大小对下游性能的影响，并提供了选择适当的预训练数据的实用见解。
PDF5 months ago
大型语言模型的必要且充分水印
提出了 NS-Watermark 方法用于在生成的文本中插入水印，以区分由大型语言模型还是人类编写的文本。该方法通过约束优化问题来生成更自然的文本，并在机器翻译任务中相较于现有的水印方法取得高达 30 BLEU 分数的性能优势。
PDF9 months ago
EMNLP变形金刚能否在自然语言中随意跳跃？从 SCAN 评估性能转移
研究表明，进行 SCAN 样式的组合泛化可在低资源和领域偏移场景下提高机器翻译的性能。
PDF3 years ago
ACL通过学习目标分类编码实现非自回归式翻译
本文提出了一种将 CNAT 学习的分类代码作为潜变量引入非自回归解码器的方法，从而解决其输入依赖性建模缺乏的限制，实现机器翻译任务中与多个强基线相比相当或更好的性能。
PDF3 years ago
ACLTransformer 循环建模
研究表明，Transformer 模型虽然仅基于注意力机制，但缺乏循环机制限制了其翻译能力的提高，本文提出使用一个额外的循环编码器来直接建模循环，并引入一种新的注意力循环网络来结合注意力和循环网络的优点，在 WMT14 英汉和 WMT17
PDF5 years ago
ACL基于协议路由的多头注意力信息聚合
本研究旨在提高多头注意力机制信息聚合的表达能力，通过路由一致性算法来迭代地更新内部表示向最终表示的分配比例，实验结果表明，该改进算法比传统线性转换方法更优秀。
PDF5 years ago