corpus size | BriefGPT - AI 论文速递

关键词corpus size

搜索结果 - 6

多语种机器翻译中目标方传输和正则化的角色解构
多语言机器翻译（MMT）通过不同语言对之间的知识迁移而受益。本文通过在目标辅助语言方面进行大规模研究，涉及语言相似性和语料库大小等两个维度，展示了知识迁移对主要语言对的动态影响。我们发现，在语言相似的辅助目标语言中，存在强烈的正向知识迁移能
PDF5 months ago
GPT-Neo 大型语言模型仿真语料中的 Heaps' Law
本研究验证了 Heaps' law 在大型语言模型生成的文本中的适用性，并发现随着模型大小的增长，生成的词汇越来越符合 Heaps' law。未来的研究应重点关注增加模型大小或改进模型架构以提高 GPT-Neo 产生的输出的丰富性和真实性。
PDF8 months ago
将人类翻译风格纳入英土文学机器翻译
在这篇论文中，我们专注于英土文学翻译，开发了考虑到译者文体特征的机器翻译模型，并通过手动对齐的作品来微调预训练的机器翻译模型。我们详细分析了手动和自动对齐、数据增强方法和语料库规模在翻译中的影响。我们提出了一种基于文体特征的方法来评估翻译输
PDFa year ago
蒙古语通用语料库的合适规模研究
本研究旨在确定蒙古语通用语料库的适当大小，并使用 Heaps 函数和类型标记比来确定其大小。最终得出结论：适当的蒙古语通用语料库大小为 3900 万到 4200 万个单词。
PDFa year ago
ACLGlot500: 将多语言语料库和语言模型扩展到 500 种语言
该研究开发了覆盖 511 种语言的大型多语言模型 Glot500-m，通过将其预训练与应用于 5 种不同语言任务中表现出较好的表现，探讨了多语言 LLM 的质量因素，旨在实现 NLP 技术在尽可能多的语言和文化中的应用。
PDFa year ago
语言的增长降低了对新词的需求：一种异速生长的解释
本研究对过去两个世纪出版的几百万本书的 15 亿余个单词进行了分析，发现单词使用频率的分布有两个不同的尺度，且随着语料库的增大，新词的需求呈减少趋势，这种 ' 冷却模式 ' 成为第三个动态的统计规律。
PDF12 years ago