基于数据的正式感敏感机器翻译方法：语言特异处理和合成数据生成

ICMLJun, 2023

基于数据的正式感敏感机器翻译方法：语言特异处理和合成数据生成

Data-Driven Approach for Formality-Sensitive Machine Translation: Language-Specific Handling and Synthetic Data Generation

PDF

Seugnjun Lee, Hyeonseok Moon, Chanjun Park, Heuiseok Lim

TL;DR本文介绍了一种基于数据驱动的方法用于形式感知机器翻译，包括语言特定的数据处理、使用大规模语言模型和实证提示工程产生合成数据等核心策略，该方法在改进了基础框架的基础上获得了显著的改进，突出了数据中心技术的有效性。提示工程策略通过生成优秀的合成翻译示例进一步提高了模型的性能。

Abstract

In this paper, we introduce a data-driven approach for Formality-Sensitive Machine Translation (FSMT) that caters to the unique linguistic properties of four target languages. Our methodology centers on two core

formality-sensitive machine translation data-driven approach prompt engineering synthetic data generation linguistic properties

发现论文，激发创造

使用合成监督控制神经机器翻译的正式性

本文介绍了一种使用多任务学习的新训练方法，通过自动生成合成的训练三元组，解决实际语言环境下缺乏适当数据的问题，从而实现端到端训练。经过全面的自动化和人工评估，我们的模型在保持源意义的同时，更好地匹配所需的正式程度水平，远优于现有模型。

Nov, 2019

用机器翻译控制目标语言的正式特征

研究探索了在使用机器学习方法将英语翻译成带有形式化特征语言时，如何解决形式化信息缺失的问题，通过使用印地语作为示例数据，在形式化受控环境中训练双语模型，并与预训练的多语言模型在类似环境中的性能进行比较。主要建模方法是利用转换器模型，通过比较预测的被标记词与期望输出的实际词的准确度（ACC）来评估正式性准确性。这项研究展示了一种灵活的翻译策略，考虑了目标语言中形式化的细微差别，迎合了多样化的语言交流需求和场景。

Nov, 2023

利用合成目标进行机器翻译

使用大型预训练模型生成合成目标数据可以提高限定资源环境下机器翻译模型的性能，这种方法可以优于在实际数据上训练模型，效果更好的原因可以归因于模型参数的数量限制和优化效果的提高。

May, 2023

德文文本简化：使用半合成数据对大型语言模型进行微调

本研究首次使用合成数据来训练德语文档级文本简化的生成模型，通过真实世界在线文本论证了我们方法的有效性。解决语言简化中数据稀缺的挑战，我们爬取了经过专业简化的德语文本并使用 GPT-4 合成了一个语料库。我们在这些数据上微调了多达 130 亿参数的大型语言模型，并使用多种方法对其性能进行评估。该论文运用了各种评估方法，并展示了当前使用的基于规则的度量指标的局限性。自动和手动评估均表明，我们的模型可以显著简化真实世界的在线文本，显示了合成数据在改进文本简化方面的潜力。

Feb, 2024

半监督形式化风格转移及其一致性训练

本文提出了一种半监督框架，通过一致性训练来更好地利用源端未标记句子，其中采用了数据扰动方法来增广伪平行数据，并提出了有效的数据过滤策略，实现了在 GYAFC 基准测试中获得最先进的结果。

Mar, 2022

FAME-MT 数据集：机器翻译中简化形式意识的实现

该研究关注机器生成翻译的正式程度，并介绍了 FAME-MT 数据集，该数据集包含 112 个欧洲语言对之间的 1120 万个翻译样本，旨在通过该数据集在欧洲目标语言中调整机器翻译模型的正式程度。

May, 2024

利用合成噪音提高机器翻译的鲁棒性

本文介绍借助带有自然噪声的大型数据集从而使得机器翻译系统更加鲁棒，提升其抗噪能力并部分缓解由此产生的精度损失。

Feb, 2019

跨语言和内部转换风格的多任务神经模型翻译

本文探讨多任务学习在自然语言生成中的应用，通过多任务学习实现单语言风格转换和基于风格的机器翻译，并展示了在不依赖特定样本的风格注释训练条件下，我们的模型在风格转换和基于风格翻译方面均取得了最先进的性能。

Jun, 2018

利用预训练的多语言语言模型控制翻译形式

研究了单一的多语种模型在控制目标语言和形式上的输出，在解决从英语翻译成六种具有不同语法正式标记的语言方面的问题上，可以接近专用翻译模型实现的翻译质量和形式控制，但是预训练语言模型和微调样本的性质对结果有很大的影响。

May, 2022

使用大型语言模型生成真实的合成数据：计算社会科学案例研究

该研究论文介绍了采用基于 grounding、过滤和分类系统的生成方法来提高合成数据的准确性，并在讽刺检测任务中对比研究了三种方法以提高准确性，评估证明 Grounding 方法更为有效，该研究提供了合成数据高保真性的一些建议。

May, 2023