low-resource language | BriefGPT

关键词low-resource language

搜索结果 - 49

LLM 在低资源翻译中的缺陷：检索和理解均为问题
本研究通过一系列实验翻译南安第斯克丘亚语为西班牙语，探究预训练大型语言模型在自动化机器翻译中从低资源语言到高资源语言的上下文学习能力。实验结果表明，即使是相对较小的语言模型，在提供了足够相关语言信息的情况下，能够通过提示上下文实现零样本低资
PDF11 days ago
BertaQA：语言模型对本地文化了解多少？
大型语言模型在全球范围或以英文为中心的主题上表现出广泛知识，但对于在网上不那么突出的其他文化相关主题表现如何仍存在疑问。通过引入英文和巴斯克文平行的选择题数据集 BertaQA，我们发现一流的大型语言模型在本地文化知识上表现出困难，但持续的
PDF21 days ago
仅使用图像进行语音翻译
通过现有的图像字幕系统，将图像与文本相连接，实现语音音频与文本之间的直接映射，从而扩展了视觉语音模型的连接方式。本研究在一个低资源语言 Yorùbá 上，提出了一种 Yorùbá- 英语语音翻译模型，利用预训练组件以实现在低资源环境中的学习
PDF21 days ago
忘掉 NLI，使用字典：零样本主题分类用于资源有限的语言，应用于卢森堡语
基于字典的数据集在零样本分类任务中胜过基于自然语言推理数据集的模型，在多个语言中可迁移使用。
PDF3 months ago
麦霍马乌纳伊卡艾：语言模型在夏威夷语自动语音识别中的改进
改善低资源语言夏威夷语的自动语音识别（ASR）的挑战，通过将大量独立文本数据整合到 Whisper 基础模型中，我们采用约 1.5M 字的夏威夷文本数据训练了外部语言模型（LM）。然后，我们使用该语言模型对 Whisper 进行评分，并计算
PDF3 months ago
利用背景信息进行句子级词素切割
通过将整个句子作为输入，我们将形态素分割任务重新定义为序列到序列问题，结果显示多语种模型在性能上优于单语种模型，尽管没有超过最先进性能，但与高资源语言相比展现出了可比较的效果，同时揭示了在低资源语言情境下的限制。
PDF4 months ago
ACL利用大规模跨语言模型在不同维度之间确定音频录音之间的相似程度
在低资源语言研究的高度受限背景中，我们探讨了预训练模型的语音向量表示，以确定其相对于音频信号的抽象程度。我们提出了一种新的无监督方法，利用精心策划的元数据在音频录音上进行 ABX 测试，以揭示这些表示所包含的信息类型。通过三个实验，验证了从
PDF5 months ago
TURNA：一种用于增强理解和生成的土耳其编码器 - 解码器语言模型
最近在自然语言处理方面的进展主要偏向于资源丰富的英语模型，导致与资源稀缺的语言存在显著差距。本研究引入了专为资源稀缺的土耳其语而开发的语言模型 TURNA，该模型能够进行自然语言理解和生成任务。我们使用面向此目的精心策划的多样语料库，在统一
PDF5 months ago
关于子词标记对于低资源和高效命名实体识别的意义：马拉地语案例研究
我们研究了在语言资源匮乏情况下对名词实体识别（NER）系统进行改进的方法，并通过将 BERT-based 子词标记器集成到传统的 CNN/LSTM 模型中，展示了提高其准确性的有效途径。在 Marathi 这种低资源语言环境下的案例研究中，
PDF7 months ago
BanglaNLP 参与 BLP-2023 任务 2：对孟加拉社交媒体帖子的情感分析进行不同 Transformer 模型的基准测试
这篇论文使用基于 Transformer 的架构进行情感分析，以解决 Bangla 这种低资源语言的问题，并通过细调模型在推特数据上获得最佳性能。同时，还进行了详细的错误分析。
PDF9 months ago
利用新型超参数优化技术推进文本到 GLOSS 神经翻译
通过研究使用 Transformer 进行文本到手语（text-to-GLOSS）的神经机器翻译，本研究旨在改善神经机器翻译生成手语的准确性和流畅度，通过探索各种架构参数，包括层数、注意力头数、嵌入维度、丢弃和标签平滑，来识别改进文本到手语
PDF10 months ago
Ngambay - 法语神经机器翻译 (sba-Fr)
该研究聚焦于低资源语言，特别关注尼日尔的低资源语言，制定了有效的数据收集方法，构建了第一个 sba-Fr 数据集，并对三个预训练模型进行了优化，结果显示 M2M100 模型在原始数据和原始 + 合成数据上都取得了较高 BLEU 分数，该公开
PDF10 months ago
僧伽罗语 - 英语平行词典数据集
为了解决低资源语言缺乏人工标注的问题，本研究提出了三个用于英语和僧伽罗语自然语言处理任务的平行英 - 僧伽罗词典数据集，并介绍了数据集创建流程和验证数据集质量的实验结果。
PDFa year ago
SIGIR低资源语言的跨语言金融交易数据 NER
我们提出了一个高效的建模框架，用于半结构化文本数据中的跨语言命名实体识别。我们的方法依赖于知识蒸馏和一致性训练，并且利用预训练在源语言上的大型语言模型（XLMRoBERTa）的知识，通过学生 - 教师关系（知识蒸馏）。学生模型在低资源目标语
PDFa year ago
低资源语言中的仇恨言论检测：比较 ASR 和语音词嵌入在 Wolof 和斯瓦希里语中的表现
通过关键词检测辨别广播中的仇恨言论，使用语音识别系统和声学词嵌入模型来检测寡资源语言中的关键词，与语音识别相比，声学词嵌入方法只需要少量关键词示例，并且在野外测试中具有更好的性能。
PDFa year ago
针对低资源语言的文本转语音自动 MOS 预测的资源有效调整策略
通过对 BVCC 和 SOMOS 数据集进行 wav2vec 2.0 预训练和微调，实现了针对 LRL West Frisian 的零样本 MOS 预测。研究表明，在 30% 的数据使用量之后，使用更多的数据并没有显著性的提高性能；同时，对
PDFa year ago
ACLAxomiyaBERTa：一个针对阿萨姆语的音韵感知变换器模型
本文提出了一种针对印度东部的形态丰富的低资源语言 (Assamese) 的 BERT 模型，名为 AxomiyaBERTa，该模型只在掩码语言模型 (MLM) 任务上进行训练，不包含典型的下一句预测 (NSP) 目标，结果显示在类似 Ass
PDFa year ago
利用词汇相似性实现极低资源语言的零 - shot 机器翻译
本篇论文讨论了如何利用字符噪声注入方法，将近乎无资源语言翻译成英文，使其更能够适应高资源语言，并在多种语言家族的紧密相关语言对中得到了显著的优异表现。
PDFa year ago
ACL低资源语言中的零样本槽位与意图检测
研究了低资源语言中的意图检测和槽填充任务，测试了最近的大型语言模型编码器 - 解码器模型 mT0 的概括能力，并展示出该模型在意图检测任务上的表现优于基准模型（高达 + 30 F1 分）
PDFa year ago
印地语作为第二语言：利用语义相似的样本改进基于视觉的语音
本研究旨在从多语言角度探讨视觉引导语音模型（VGS）的学习。研究发现，将高资源语言的知识转化为低资源语言的知识可以提高跨模态检索任务中低资源语言的性能，对此，文章提出了两种方法：（1）使用强大的预训练高资源语言编码器和（2）使用语义相似的口
PDFa year ago