使用大型语言模型在单语环境下主要训练的研究发现，通过零样本和少样本的情境学习可以很好地实现机器翻译的泛化能力。然而，尽管零样本翻译的表现相对良好，但与少样本设置相比仍存在可辨别的差距。本文的研究探讨了导致这种差距的因素，并发现通过与目标语料库的写作风格匹配可以在很大程度上缩小这种差距（约为 70%）。此外，我们还探索了提高零样本基线的潜在方法，而无需并行演示样本，从而为提高翻译度量标准提供了有价值的见解。

Nov, 2023

本文介绍了一种用于纠正语法错误的低资源序列到序列任务方法，首先使用现实的噪声函数生成大型未注释语料库的错误版本，然后利用这些并行语料库进行 Transformer 模型的预训练，并通过顺序迁移学习将这些模型适应于测试集的领域和风格。同时结合上下文感知的神经拼写检查器，我们的系统在 ACL 2019 BEA 共享任务中取得了竞争力的结果。我们公开代码与材料以便复现。

Jul, 2019

通过使用预训练模型，我们提出了一种零样本跨语言转移的新方法，它能够在低资源语言上实现任务感知的双语信息对齐，并利用未标记数据进行自我训练，从而实现多种任务上的最新技术提升，无需并行语料库或翻译模型。

Oct, 2023

本文提出了一种简单且无需训练数据的方法，通过多语言反向翻译来有效降低作者个人信息暴露的风险，以达到提高隐私性的目的，而无需牺牲数据的后续实用价值。在自动和人类评估中，与五种最具代表性的文本风格转换模型相比，我们的模型在不同领域的三个数据集上取得了最佳的整体表现，能够将性别和种族的对抗预测降低高达 22％，同时保留 95％的原始实用性。

Sep, 2021

本研究针对零样本跨语言转移中生成任务的中文输出质量不高、甚至有时会输出错误语言的问题，提出了一种用于正则化模型的简单方法和一种用于在不需要目标语言开发集的情况下选择模型检查点的方法，实验证明该方法使得 ROUGE-L 分数平均提高 1.5，同时将意外翻译问题减少了 68%。

May, 2023

提出了一种新颖的数据合成方法，以生成多样的句子对，用于改善语法错误纠正，该方法基于两个不同质量（即较差和较好）的机器翻译模型对。实验结果表明，我们的方法是有效的，可以与其他合成数据源相结合，以产生进一步的改进。

Nov, 2019

本文采用大型语言模型（LM）来进行零样式转移，提出了一种提示方法，称为增强的零样式学习，将样式转移作为句子重写任务，并仅需要自然语言指令，无需目标样式的模型微调或示例。增强的零样式学习简单易用，不仅在情感等标准样式转换任务上表现出色，而且可以进行任意变换，例如 “使其多愁善感” 或 “插入一个隐喻”。

Sep, 2021

通过将多语言翻译问题重新构造为概率推理，定义了零 - shot 一致性的概念；引入了一种基于一致性约束的训练方法，鼓励模型在辅助语言中生成等效的平行句子翻译，最终我们测试了多种公共的零 - shot 翻译基准数据集，并证明基于一致性约束训练的 NMT 模型通常会在无监督翻译任务上取得 2-3 BLEU 的提高，而在监督翻译任务上的性能不会降低。

Apr, 2019

本文提出了两种策略，可应用于多语言神经机器翻译系统中，以更好地处理零资源情况，尤其是在减轻语言偏差问题方面在真实零资源条件下不平衡数据的多语言翻译方面，实验证明这两种策略在性能和计算资源方面都是有效的。

Nov, 2017

CrossAligner 是一种实现零 - shot 跨语言传递任务知识的有效方法，利用未标记并行数据进行学习对齐，其细调语言模型优于预期。

Mar, 2022