spanish language models | BriefGPT

关键词spanish language models

搜索结果 - 4

西班牙语效率问答的语言模型知识蒸馏
该研究论文通过知识蒸馏技术开发了适用于西班牙语的 RoBERTa 压缩语言模型，旨在提供高效的西班牙语问答能力，并在计算资源有限的环境中广泛应用，同时保持性能不受明显影响。该工作为进一步研究和压缩西班牙语模型在各种 NLP 任务中的应用提供
PDF7 months ago
序列到序列的西班牙语预训练语言模型
本文介绍了在西班牙语语料库上预训练的著名编码器 - 解码器架构 ——BART、T5 和 BERT2BERT 风格模型。通过对各种序列到序列任务（包括摘要、改写和生成式问答）的综合评估，我们发现所有模型的性能竞争力，其中 BART 和 T5
PDF9 months ago
西班牙语语言模型评估中得到的经验教训
本文提供了一份全面的研究报告，比较了用于西班牙语的语言模型，报告显示：先前被忽略的大型跨语言模型比单语模型表现更好，单语模型的结果并不是确定性的，需要进一步研究语料库大小、质量和预训练技术等因素。
PDF2 years ago
面向西班牙语的生物医学和临床语言模型：中等资源情景下专业领域预训练的好处
本文介绍了针对西班牙语的生物医学和临床语言模型，通过实验不同的预训练选择和测试领域数据，生成可用于实际临床数据的模型，并通过对比 NER 任务，证实了进行特定领域的预训练对提高下游任务性能非常重要。
PDF3 years ago