Nov, 2022

低资源研究中的高资源方法学偏差

PDF
TL;DR本文研究了低资源 NLP 中数据不足和数据质量不佳的影响，通过探究 POS 标注和机器翻译这两种任务的实验结果，得出了从高资源语言进行降采样的做法会带来偏差，这表明简单地降采样将引入数据偏差，不应作为低资源 NLP 系统开发的唯一解决方案。
low-resource nlpdata qualitypos-taggingmachine translationdown sampling
发现论文，激发创造
  • 低资源场景下自然语言处理的最近方法综述

    本文调查了低资源自然语言处理的相关方法，其中包括数据增强、遥感监视和迁移学习等技术以帮助在需要训练数据较少的情况下提高神经模型的性能，并通过说明这些方法的差异帮助选择适合特定低资源设置的技术。

    Oct, 2020

  • 低资源神经机器翻译调查

    本文对低资源神经机器翻译进行了调查，并根据所使用的辅助数据将相关作品分为三类：利用源语言和 / 或目标语言的单语数据，利用来自辅助语言的数据以及利用多模态数据。该调查有助于研究人员更好地理解该领域，鼓励他们设计更好的算法，也有助于帮助行业从业者选择适合其应用程序的算法。

    Jul, 2021

  • 低资源语言：现有工作回顾与未来挑战

    本文回顾了 NLP 领域中解决低资源语言问题的先前重要进展，并分析了未来研究方向中的潜在改进。

    Jun, 2020

  • 跨语言数据集构建与必要资源的综述

    该研究旨在量化语言资源之间的不平等性，并提出一些方法来改善低资源语言的数据收集，以促进未来的多语言数据发展。

    Nov, 2022

  • 重新审视低资源神经机器翻译：以个案研究为例

    本文探讨神经网络机器翻译（NMT）在低资源条件下性能下降的原因，提出适应低资源环境时的注意事项和最佳实践，并在德语 - 英语和韩语 - 英语低资源翻译数据集上进行实验，发现经过优化的 NMT 系统可以在没有使用其他语言辅助数据的情况下，比以前报告的更少数据超越采用词组统计的基于规则的机器翻译（PBSMT），BLEU 指标超过 4 个点。

    May, 2019

  • 在真正的低资源语言上，对于低资源依赖分析的方法进行系统比较

    本文研究在少量训练数据的情况下，如何通过数据增强、跨语言训练和转写等策略提高处理低资源语言的分析器性能。在三种语言的实验中，发现数据增强和跨语言训练都能提高性能，而将高资源语料库中的字母转写成共享的拼写规则也很有帮助。

    Sep, 2019

  • 自然语言处理的高效方法：一项调查

    本文介绍了在资源有限的情况下，如何在自然语言处理中提高处理效率的方法和研究方向。

    Aug, 2022

  • 低资源场景中 PoS 标注器模型的建模

    在资源匮乏的情景下，我们评估了早期学习曲线估计作为选择在非深度学习者应用的最适模型的实用机制，以提高性能并控制成本。使用西伊比利亚 - 罗曼斯语族中的加利西亚语作为案例研究，实验结果与我们的预期一致。

    Feb, 2024

  • 低资源语言建模中上下文的重要性

    研究了低资源语言模型预训练，当可用的句子少于 100,000 条时。在低资源情况下，统计 n-gram 语言模型优于最先进的神经模型，主要是因为前者专注于局部上下文。因此，引入了三种方法来提高神经模型在低资源环境下的性能，发现限制模型的自我注意力是最有效的方法，在英语、印地语和土耳其语等多种语言的下游任务中，NLI 和 POS 标记的准确性提高了高达 5%。

    May, 2022

  • 非资源语言机器翻译的参与式研究：非洲语言案例研究

    本文探讨了如何利用参与性研究，将机器翻译 (MT) 技术应用于非洲语言，以解决 NLP 在地理分布上欠缺多样性并实现 NLP 的规模化问题。我们提出了一种可行性高并可扩展的情境下的参与式研究方案，其使非专业人员也能对 MT 技术的开发做出独特的科学贡献，并制定了适用于 30 多种语言的 MT 基准。

    Oct, 2020