monolingual models | BriefGPT

关键词monolingual models

搜索结果 - 10

评估自监督语音表示对美国土著语言的应用
应用自监督方法于语音表示学习的研究已引起广泛关注，然而，目前的进展主要集中在只考虑英语的单语模型上。我们在 ASRU 2023 ML-SUPERB 挑战赛的新语言轨道上提交了一份研究报告，其中介绍了一个针对 Quechua 语（一种南美洲土
PDF9 months ago
基于置信度的端到端语音识别模型集成
本文探索基于置信度的集成模型方法，证明 5 种单语音模型组合胜于使用专用语言识别块的模型选择，同时结合基础模型和适应模型，可在数据原始状态和目标状态下获得强大结果。
PDFa year ago
机器翻译指标外部评估
本文研究了自动机器翻译度量在句子级别（段落级别评估）中区分好的翻译和坏的翻译的可靠性，并研究了在较大平台中放置机器翻译组件的成功率检测中 MT 度量的有用性。我们在三个下游跨语言任务（对话状态跟踪，问题回答和语义分析）上评估了最广泛使用的
PDF2 years ago
西班牙语语言模型评估中得到的经验教训
本文提供了一份全面的研究报告，比较了用于西班牙语的语言模型，报告显示：先前被忽略的大型跨语言模型比单语模型表现更好，单语模型的结果并不是确定性的，需要进一步研究语料库大小、质量和预训练技术等因素。
PDF2 years ago
MonoByte：单语字节级语言模型池
本研究发布了 10 个在相同配置下严格预训练的单语模型，它们是基于字节的，不需要分词，可以消除未见标记嵌入的问题，并且可以在不同文字脚本的语言中尝试更广泛的跨语言实验，通过 QA 和 NLI 任务的实验证明，这些单语模型的性能与多语言模型相
PDF2 years ago
ACLSMTCE：越南社交媒体文本分类评估基准和 BERTology 模型
该研究介绍了 Social Media Text Classification Evaluation (SMTCE) 基准并使用各种多语言和单语 BERT-based 模型对多个 SMTC 任务进行了实现和分析。结果表明，单语言模型优于多语
PDF2 years ago
面向低资源语言的多语种 Transformer 语言模型
通过将多个低资源语言聚集在一起来实现地区组多语言 Transformer LM 的最佳性能，使得 Monolingual LM 候选模型表现更佳且减少维护成本和运营费用。
PDF2 years ago
EMNLP使用知识蒸馏将单语句子嵌入多语言
本文介绍了一种将现有的句子嵌入模型扩展到新语言的简便有效方法，训练基于将翻译后的句子映射到与原始句子相同的向量空间位置的思想，相较于其他多语言句子嵌入训练方法，具有扩展现有模型以增加新语言的简易性、保证向量空间所需属性的易操作性和较低的硬件
PDF4 years ago
ACL多语言序列标注的结构级知识蒸馏
该研究提出使用知识蒸馏减少多语言模型与单语言模型之间性能差距，实验结果显示我们的方法优于多个基准模型并具有更强的零次通用性。
PDF4 years ago
为您的文本表示模型加点爱：巴斯克语的案例
本篇论文探讨使用大型巴斯克语语料库训练的 FastText 词向量、FLAIR 和 BERT 语言模型，在话题分类、情感分类、词性标注和实体识别等下游 NLP 任务中的表现优于公开版本，从而在这些任务中取得了最新的技术成果，所有标准和模型都
PDF4 years ago