Nov, 2023

OpusCleaner 和 OpusTrainer，用于训练机器翻译和大型语言模型的开源工具包

PDF
TL;DR通过 OpusCleaner 和 OpusTrainer 工具，简化机器翻译系统的开发过程，降低工作量并降低新手的门槛。这些工具能够下载、清洗和预处理来自不同来源的双语（或单语）数据，并通过数据调度和数据增强构建大规模、可靠的机器翻译系统和语言模型。
发现论文，激发创造
  • 消除印度机器翻译任务流行数据集中的误译方法

    使用最大的公开可访问的印度语言平行数据集 Samanantar 进行实验，在二种印度语言 Hindi 和 Odia 上构建一个基准神经机器翻译系统，并通过消除数据集中的错误翻译来提高翻译质量，进而发现尽管 ILs-English 和 English-ILs 系统使用相同的数据集进行训练，但 ILs-English 在所有评估指标上的表现更好。

    Jan, 2024

  • 利用机器翻译增强多语言分类

    利用机器翻译来调整多语言模型以进行分类任务在多种语言之间产生一定的效果，并且通过一种新颖的技术可以改善模型对翻译数据的负面影响。

    May, 2024

  • 使用大语言模型引导多语言语义分析器

    使用大型语言模型通过少量提示将英文数据集转化为多种语言，以实现多语言语义解析，并在两个公共数据集上与传统的翻译 - 训练方法进行比较，表明使用 LLM 更有效。

    Oct, 2022

  • 请语言模型清理您的噪声翻译数据

    使用大型语言模型 (LLM) 清理噪声目标句子，创建了 C-MTNT 数据集，提供了更适合噪声评估的基准，并展示了 LLM 在此任务上的出色表现。

    Oct, 2023

  • 选择机器翻译数据快速引导自然语言理解系统

    本文研究了使用机器翻译（MT）为大规模语音控制设备的新语言引导自然语言理解（NLU）系统的使用情况，并探讨了不同的 MT 数据过滤方法以及语言特定的后处理方法在大规模 NLU 任务中的应用。结果表明，使用 MT 数据可以大大提高 NLU 的性能并减少人工工作量。

    May, 2018

  • 高效机器翻译语料库生成

    本篇论文提出了一种有效且半自动化的方法，用于人工编辑后的机器翻译语料库生成，该方法基于在线训练定制的 MT 质量估计指标并需要人类参与，实现了有待优化问题的优先级排序和最佳解的自动处理。尤其地，该方法解决了人工编辑效率低下，从而降低了人工成本的问题，并通过实验证明了其对机器翻译模型生命周期的作用。

    Jun, 2023

  • 跨语言语义解析器的引导

    本研究的主要目的是使一个语义解析器模型从英语语言转移到其他多种语言和领域上，通过机器翻译、释义、多语言预训练模型，我们得出一个基于 Transformer 的语义解析器，用于在德语和中文中准确解析。实验表明，机器翻译结合多组 MT 引擎释义可以近似于多种语言的训练数据，同时我们还成功地将训练数据减半，最终准确度仅低于完整翻译 2%。

    Apr, 2020

  • 训练，分类，解释：学习诊断翻译模型

    本文介绍了一种基于神经文本分类器的方法，将自然语言处理中翻译模型的自动化评估与人类评估相结合，并揭示人机差异，其中包含翻译质量和人工智能的深入讨论。

    Mar, 2019

  • 通过预训练语言模型进行平行语料库过滤

    本文提出了一种利用预训练语言模型过滤爬取数据中的噪声句对的方法，并利用 BERT 的多语言能力度量语句的平行性，使用生成预训练（GPT）语言模型作为领域过滤器来平衡数据领域，通过在 WMT 2018 平行语料库过滤共享任务上的实验以及本文所提供的 Web-crawled 日译中平行语料库上的实验，证明该方法明显优于基准线，并取得了新的最新成果。

    May, 2020

  • 通过持续预训练和字典学习分析改进使用翻译数据训练的语言模型

    利用机器翻译从英语训练 LLMs 在低资源语言中通常会带来翻译的挑战，然而我们研究了机器翻译和合成数据在训练语言模型中的作用，并通过案例研究展示了改进的效果。

    May, 2024