Jan, 2024

大语言模型的机器翻译：波斯语，英语和俄语方向的提示工程

PDF
TL;DR通过研究生成式大型语言模型在机器翻译中的性能，我们发现多语言模型（如 PaLM）在人工翻译输出方面表现出类似人类的水平，能够根据样式指南和语言要求优化所需的翻译细微差别，并在处理和应用提示上表现出色。我们还针对流行的语言模型作为机器翻译工具的错误和限制进行了分类和提出了设计提示进行上下文学习的方法。通过改进评估指标的准确性和可靠性，我们的研究旨在促进生成式大型语言模型在机器翻译中的进步。
generative large language modelsmachine translationprompting methodsmultilingual llmserrors and limitations
发现论文，激发创造
  • 低资源语言中大型语言模型的少样本跨语言迁移

    将 LLaMa 适应于 Kinyarwanda、Hausa 和 Luganda 等低资源语言的提示设置是一种计算高效且成本效益的方法，优于翻译和 LAFT，并在所有任务和语言上表现最佳。

    Mar, 2024

  • 激励 PaLM 进行翻译：评估策略和性能

    本文探究了训练在多种语言但不是平行语料库上的大型语言模型（LLMs）在语言翻译方面的惊人能力，尤其是针对 Pathways 语言模型（PaLM）的表现最优。我们研究了选择翻译示例的各种策略，并得出结论，考虑到示例的质量是最重要的因素。通过优化的提示，我们重新评估了 PaLM 的机器翻译性能，并发现它的性能虽然令人印象深刻，但仍然落后于最先进的监督系统。我们最后提供了 PaLM 的机器翻译输出分析，揭示了一些有趣的特性和未来工作的前景。

    Nov, 2022

  • 机器翻译中的大型语言模型：案例研究

    通过系统研究提示策略，我们填补了机器翻译领域中提示还未得到充分探索的空白区域，证明了使用优质的提示样本能够有效地提高机器翻译的性能。

    Jan, 2023

  • 使用翻译记忆增强大型语言模型翻译器

    利用翻译记忆作为提示是一种有前途的机器翻译模型上下文学习方法，本文通过使用大型语言模型进行提示，发现 LLM 的‘理解’提示的能力确实有助于更好地利用 TMs，并通过实验证明，使用高质量的 TM 提示可以大大改善预先训练的 LLM 翻译器的结果，甚至可以与最新状态下大规模领域内双语数据和针对下游任务进行调整的 NMT 系统的结果相媲美。

    May, 2023

  • 在教育和评估应用中探索提示式大型语言模型的能力

    利用大语言模型在现代教育领域创新的机会，通过研究提问型大语言模型、语法错误解释和人力资源面试评估，揭示了大语言模型在改变教育实践中的潜力和限制。

    May, 2024

  • 翻译是唯一需要吗？关于使用大型语言模型解决多语言任务的研究

    我们提倡更多的努力来开发强大的多语种语言模型，而不仅仅是以英语为中心的语言模型。

    Mar, 2024

  • 探索使用大型语言模型进行人类化翻译策略

    本文提出了一个名为 MAPS 框架，通过多方面提示和选择的方式，使用大型语言模型分析源文本获取三个与翻译相关的知识方面：关键词、主题和相关演示，并通过质量估计的机制过滤噪音和无用的知识来指导翻译过程，实验证明 MAPS 在最新的 WMT22 测试集上对八个翻译方向都有显著和一致的改进，为解决翻译中的幻觉错误提供了关键的知识。

    May, 2023

  • 基于通信理论的大型语言模型的促进工程方法

    大型语言模型的兴起改变了自然语言处理领域从单任务导向到全面的端到端多任务学习范式，其中基于大型语言模型的提示方法引起了广泛关注，尤其是由于提示工程的技术优势以及不同提示方法揭示的自然语言处理原理。本研究旨在通过建立通信理论框架来评述现有的提示工程方法，深入了解其中在四个典型任务中的发展趋势，并为未来的提示工程方法指明有前途的研究方向。

    Oct, 2023

  • 基于词典短语级别的大语言模型提示用于机器翻译

    本研究通过利用双语词典的先验知识提供提示，提出了一种新的 DiPMT 方法，可以有效解决 LLM 在低资源机器翻译和领域转移情况下难以翻译生僻词的问题，并且实验结果表明 DiPMT 能够提高 LLM 的翻译性能。

    Feb, 2023

  • 使用大语言模型引导多语言语义分析器

    使用大型语言模型通过少量提示将英文数据集转化为多种语言，以实现多语言语义解析，并在两个公共数据集上与传统的翻译 - 训练方法进行比较，表明使用 LLM 更有效。

    Oct, 2022