Feb, 2023

增强阿拉伯目标意义验证的上下文 - 词汇增强

PDF
TL;DR本文介绍了通过 (Arabic-English-Arabic) 机器回译，对 ArabGlossBERT 数据集进行了扩充。结果数据集大小增加到 352K 个对（149K 个正对和 203K 个负对）。我们使用不同的数据配置来微调目标意义验证（TSV）任务，并且测量扩充的影响。虽然我们的方法表现出了与基准线相当的性能，但在某些实验中，也观察到了一些部分词性的改进。
发现论文，激发创造
  • ArabGlossBERT: 基于上下文 - 词汇解释对的 BERT 微调用于 WSD

    本文介绍了使用预训练的 transformer 模型（例如 BERT）对阿拉伯语词义消歧（WSD）进行微调的工作。我们将 WSD 任务视为句子对二进制分类任务，并针对三个预先训练的阿拉伯 BERT 模型进行了微调，通过构建标记的阿拉伯文本 - 义项对数据集，实现了很好的结果（84% 的准确性）并使用不同的监督信号强调上下文中的目标词。

    May, 2022

  • 低资源神经机器翻译的数据增强

    本研究提出了一种以数据增强为基础的方法，针对低频词汇在合成的新语境中生成新的句子对，以提高神经机器翻译系统的翻译质量。在模拟低资源环境中的实验结果显示，相对于基准和回译方法，我们的方法能够提高翻译质量，最高可提高 2.9 BLEU 分数。

    May, 2017

  • 利用生成式语言模型进行神经机器翻译的数据增强

    通过利用大规模语言模型如 ChatGPT，我们探索了基于提示的数据增强方法，用于产生合成的平行语料库，比较了三种不同提示的方法，并使用两个评估指标来衡量所生成的合成数据的多样性。这种方法无需额外的模型训练成本，与后向翻译等其他增强方法相比，提高了未增强基线的 0.68 BLEU 分数。

    Jul, 2023

  • 面向文档级机器翻译的目标端增强

    提出了目标端数据增强的数据稀疏性问题解决方法，通过生成多个潜在翻译来训练机器翻译模型，从而减少数据稀疏性的风险并提高翻译性能。

    May, 2023

  • 研究用于阿拉伯语 - 英语混合代码增强的词汇替换

    本文研究了数据扩充技术，通过对使用平行语料和对齐来进行词汇替换，以便合成方言阿拉伯语 - 英语语料库，并取得了很好的效果，其中使用随机方法的结果在各外部任务中优于使用训练过的预测模型的结果。

    May, 2022

  • 改进的翻译建议数据增强

    介绍了我们在 WMT'22 翻译建议共享任务中提交的系统，该系统基于多种翻译架构的集合，并使用三种策略构建合成数据以补偿监督数据的缺乏，并引入多阶段预训练策略，并在英德和英汉双向任务中排名第二和第三。

    Oct, 2022

  • 文本增强技术在低资源机器翻译中的应用：斯瓦希里语案例研究

    本研究旨在探讨将文本数据增强技术应用于低资源机器翻译的影响，研究表明在针对英斯瓦西里（En-Sw）数据集进行神经机器翻译时，文本分类任务中常用的三种数据增强技术（同义词替换、随机插入和上下文数据增强）均可提高系统性能，尤其是上下文数据增强技术。

    Jun, 2023

  • 基于分段增强的语音翻译数据效用最大化（SegAugment）

    提出了一种名为 SegAugment 的数据增强方法，通过音频分割系统重新分割每个文档的语音，以获取多个目标文本，并得到多个和不同的句子级视图，实现了语音翻译中的数据增强，平均 BLEU 分数增加了 2.2 个点，并且在低资源场景下增加了 4.7 个 BLEU 点。

    Dec, 2022

  • 数据增强和理性训练法实现跨语言句子选择

    该论文提出了一种跨语言句子选择的方法，旨在使用数据增强和负采样技术来直接学习基于嵌入的跨语言查询相关模型，结果显示该方法的效果不亚于或优于多个最先进的机器翻译 + 单语检索系统，该方法在英语 - 索马里语、英语 - 斯瓦希里语和英语 - 塔加洛语三种语言对中获得了一致的改进。

    Jun, 2021

  • 无监督的上下文增强词汇简化

    我们提出了一种基于无监督学习的词汇简化方法，仅使用单语数据和预训练语言模型。根据目标词和其上下文，我们的方法基于目标上下文和从单语数据中抽样的附加上下文生成替代词。我们在 TSAR-2022 共享任务的英语、葡萄牙语和西班牙语上进行实验，并表明我们的模型在所有语言上都显著优于其他无监督系统。我们还通过与 GPT-3.5 模型组合，建立了一个新的最先进模型。最后，我们在 SWORDS 词汇替换数据集上评估我们的模型，获得了最先进的结果。

    Nov, 2023