cross-lingual generalization | BriefGPT

关键词cross-lingual generalization

搜索结果 - 7

评估大型语言模型在语言变异维度上的性能：一项跨语言泛化的系统性调查
大语言模型在面对未知的相关语言和方言时会表现出性能下降现象，本论文通过对语言距离的建模和分析，提供了关于模型健壮性和任务特性对性能下降的洞察，为评估和缓解性能下降问题提供了便利
PDF15 days ago
ACL跨语言零射击泛化在指令调整中的深度探索
通过跨语言调整指令和数据获取方法，研究表明对未知任务的指令调优在英文和韩文方面都取得了显著的改善效果，与单语指令调优相当甚至有些任务超过，强调了在指令调优过程中通过跨语言数据获取的相关性和语言一致性的重要性。
PDF21 days ago
LinguAlchemy: 将语言类型学和地理元素融合实现未知语言泛化
引入 LinguAlchemy 解决预训练语言模型在未知语言上的泛化问题，通过考虑语言的不同方面，显著提高了 mBERT 和 XLM-R 对未知语言的准确性，实现了更好的跨语言泛化。
PDF6 months ago
EMNLP变压器语言模型中的结构概念是否普遍？迈向可解释的跨语言泛化
利用语言的语法方面作为测试基础，我们的分析揭示了对于仅编码器和仅解码器的大型语言模型，语言的结构概念空间之间具有高度的对齐度。然后，我们提出了一种基于元学习的方法来学习不同语言之间的概念空间对齐，从而实现零样本学习和少样本学习，并增进了对跨
PDF8 months ago
ACLmPMR: 规模化的多语言预训练机器阅读器
mPMR 是一种新颖的多语言机器阅读理解 (MRC) 预训练方法，旨在指导多语言预训练语言模型 (mPLM) 在多种语言中执行自然语言理解 (NLU)（包括序列分类和跨度提取）。mPMR 通过 MRC 样式的预训练，直接继承多语言 NLU
PDFa year ago
跨语言说话人识别使用远程监督
该论文提出了一种演讲者识别的框架，通过大规模的英文远程监督训练跨语言语言模型，解决了当前方法中存在的上下文推理能力和跨语言泛化性不足问题，并在英文和中文演讲者识别数据集中取得了优于现有方法的表现。
PDF2 years ago
ACL用于多语言回复建议的数据集和基准线
该文介绍了 MRS，一个包含十种语言的多语言回复建议数据集，可用于比较选择模型和生成模型的优劣，并公开了基于此数据集的生成和检索模型。
PDF3 years ago