multilingual data | BriefGPT

关键词multilingual data

搜索结果 - 17

多语种多样性增强视觉 - 语言表示
使用多语言数据集进行预训练可以提高在多个视觉任务中的性能，包括对非英语数据的使用，以及增加地理多样性任务中非洲地区的表现。
PDFa month ago
基于预训练大型语言模型的乌尔都自然语言处理任务潜力评估
利用零样本学习对四种主要的神经网络模型在 14 个乌尔都自然语言处理任务上进行了全面对比和分析，结果表明最先进的模型在所有任务中都超越了编码器 - 解码器的预训练语言模型。此外，研究还发现，基于较少参数但更多语言特定数据的模型比基于更大计算
PDFa month ago
OpenLLM-Ro -- 关于从 Llama 2 开始训练的开源罗马尼亚语 LLM 的技术报告
近年来，大型语言模型（LLMs）在各种任务上已经实现了几乎人类水平的表现。尽管一些 LLMs 在多语言数据上进行了训练，但大多数训练数据仍是英文，所以它们在英文上的表现远远超过其他语言。本文介绍了我们对第一个专门用于罗马尼亚语的基础和聊天型
PDF2 months ago
COLING多语言对话转换预测基于语音活动投影
研究报告通过使用音频活动预测模型，在多语言数据中进行了口语对话研究，并对单语和多语模型进行了比较分析，发现多语模型对所有语言的预测表现与单语模型相当，同时还分析了声调敏感性和两种不同的音频编码器。
PDF4 months ago
自动事实核查的主张检测：关于单语、多语和跨语言研究的调查
自动事实核查引起了过去几十年的广泛关注，由于在线平台上虚假信息的扩散增加。本调查主要关注多语言数据和方法，讨论现有努力检测需求核查的言论。我们提出了一项综合调查，介绍了最新的多语言言论检测研究，主要涉及可验证性，优先级和相似性三个问题因素
PDF5 months ago
多语言自动对话评估
通过使用机器翻译来增强现有的英文对话数据，我们提出了一个绕过数据缺乏问题的方法，用于开发鲁棒的多语言对话评估指标，并通过实验证明，与仅使用源数据微调多语言模型的强基线相比，仅仅使用翻译数据微调预训练的多语言编码器模型的天真方法无法取得更好的
PDF10 months ago
多对多口语翻译通过统一语音和文本表征学习与单元翻译
我们提出了一种方法，通过单一模型学习多语言语音和文本的统一表示，特别关注语音合成的目的。我们使用语音单元表示多语言语音音频，这是从自我监督语音模型编码的语音特征的量化表示。因此，我们可以将语音视为伪文本，并构建语音和文本的统一表示。然后，我
PDFa year ago
高效多语言视觉 - LLMs 引导程序的启动
通过利用机器翻译产生多语言数据来实现对预训练的多语言 LLM 的图像编码器的重新对准，从而在消费者硬件上使用少量训练数据来获得第一款多语言 Vision-LLM，与从头开始训练的大规模 Vision-LLM 相比表现出色。
PDFa year ago
跨语言视觉言语表征学习
本文探讨了跨语言自监督视觉表示学习，使用 Raw Audio-Visual Speech Encoders（RAVEn）框架对无标注的多语言数据进行预训练，然后用标记的转录 fine-tune 视觉模型，实验证明多语言模型优于单语言模型，多
PDFa year ago
QAmeleon：仅使用 5 个样本的多语言问答
QAmeleon 使用预训练语言模型 PLM 自动生成多语言数据来训练 QA 模型，从而避免昂贵的注释成本，在低资源环境中优于直接使用手动标注的示例进行 QA 模型微调的方式，并在 TyDiQA-GoldP 和 MLQA 基准测试中实现了高
PDF2 years ago
MM临床表型跨语言知识迁移
研究跨语言知识转移策略用于非英语且领域内数据小的诊所中，证明了基于翻译方法与特定领域编码器相结合以及跨语言编码器和适配器可以超越当前最先进的方法。该研究发现这些策略对于分类罕见表型尤其有效，并建议根据具体情况选择使用哪种方法。结果表明，使用
PDF2 years ago
ACL多语言文本分类中缓解性别偏见的易于适应性
本论文研究在多语言环境下，通过将性别视为领域，利用标准领域适应模型减少性别偏见，提高文本分类器的性能，并在两个文本分类任务中评估方法，证明了该方法的有效性，同时使用三个公平感知的基线进行了实验。
PDF2 years ago
多语言神经机器翻译中使用外语重述
本文介绍如何使用包含一致结构的训练数据作为语料库级别的释义，并将释义视为外语词汇进行 Neural Machine Translation 的训练。本方法表现出比过去的单词或短语级别的方法更好的效果，并且在使用多种语言的平行释义进行训练时表
PDF6 years ago
将全局视觉特征合并到基于注意力的神经机器翻译中
这篇论文介绍了多模态的注意力神经机器翻译模型，并将视觉特征整合在编码器和解码器的不同部分中，利用预训练的卷积神经网络提取全局图像特征，评估了不同策略整合全局图像特征的性能，并研究了添加合成多模态的多语言数据的影响，发现其对多模态模型有积极作
PDF7 years ago
COLING使用多语言数据的半监督介词语义消歧
本研究采用半监督方法来增强介词意义的自动消歧功能。通过在未标注的多语数据上进行预训练，利用一个 LSTM 编码器来预测介词的翻译，然后在一个监督分类系统中将其作为组成部分进行微调，结果表明这种多语信号能够显著提高两个介词意义数据集的结果表现
PDF8 years ago
EMNLP代码交替的计算处理挑战
本文探讨了在非规范化的混合两种或更多语言的多语言数据上进行自然语言处理的挑战，重点关注语言识别、依存分析和机器翻译等 NLP 任务的关键问题。
PDF8 years ago
ACL组合式分布式语义的多语言模型
通过基于多语种数据和联合嵌入的分布式假设扩展学习语义表示的新技术，学习出在跨语言上语义等价的句子之间高度对齐而在不相似的句子之间保持足够距离的表示。此方法不仅适用于单词层面，还可以对文档进行语义层面的表示学习。在两个跨语言文档分类任务上，我
PDF10 years ago