更加注意源语言上下文：减轻大型语言模型带来的不忠译

ACLJun, 2024

更加注意源语言上下文：减轻大型语言模型带来的不忠译

Paying More Attention to Source Context: Mitigating Unfaithful Translations from Large Language Model

Hongbin Zhang, Kehai Chen, Xuefeng Bai, Yang Xiang, Min Zhang

TL;DR在这篇研究中，我们提出了一种方法来解决大型语言模型在翻译过程中因未对齐问题而导致的不准确翻译的困扰，该方法通过调整源语言和目标语言的注意力权重、压制无关目标前缀的影响以及避免过度依赖目标前缀来改善翻译质量，实验证明该方法在多种语言对上的效果显著，有效地减少幻觉式翻译，并促进准确翻译的生成。

Abstract

large language models (LLMs) have showcased impressive multilingual machine translation ability. However, unlike encoder-decoder style models, decoder-only LLMs lack an explicit →

large language models alignment attention weights translation faithful

发现论文，激发创造

大型语言模型的上下文忠实提示

本文探讨了大型语言模型在知识获取任务中通过设计启示策略，特别是意见为基础的提示和反事实演示，有效提高了上下文的真实性，并在三个数据集上进行实验，结果表明在上下文中的忠实度有了显著提高。

Mar, 2023

在源语言中迷失：大型语言模型如何评估机器翻译的质量

大型语言模型在机器翻译评估任务中取得了显著的成果，然而关于它们如何利用提供的数据进行评估仍存在知识空白。本研究旨在探索大型语言模型如何利用源语言和参考信息进行评估，从而更好地理解大型语言模型的工作机制。通过设计不同的输入模式和模型类型进行受控实验，并使用粗粒度和细粒度提示来识别源语言与参考信息的有效性，我们惊讶地发现参考信息显著提高了评估准确性，而源语言信息有时会适得其反，表明在使用大型语言模型评估翻译时缺乏跨语言能力。我们还对大型语言模型的翻译错误检测进行了元评估，观察到类似的现象。这些发现也为充分利用大型语言模型的跨语言能力以在机器翻译评估任务中取得更好性能提供了潜在的研究方向。

Jan, 2024

构建准确的基于翻译的语言感知 LLMS 的指导调优

通过两阶段微调算法，改进了大型语言模型（LLMs）遵循翻译指示的能力，特别是翻译方向信息，从而有效降低了错位翻译比率（平均降低 53.3%），提高了翻译质量（平均增加 5.7 SacreBLEU 和 16.4 BLEURT）。

Mar, 2024

SPOT: 从原创性评分阈值预测文本来源

从信任的角度来研究大型语言模型（LLMs）生成的文本，我们提出了一种有效的方法 SPOT，通过原创度评分来对任意文本输入进行源分类，该方法对于现代 LLMs 的架构、训练数据、评估数据、任务和压缩表现出了稳健性。

May, 2024

GPT 模型中上下文学习翻译的解剖

通过高质量、领域内示范的扰动，我们发现源端的扰动对翻译质量影响较小，而目标端的扰动可以极大地降低翻译质量，这表明输出文本分布在上下文学习翻译中提供了最重要的学习信号。我们提出了一个名为 Zero-Shot-Context 的方法，可以自动地在零样本提示中添加此信号，我们证明它提高了 GPT-3 的零样本翻译性能，甚至使其与少样本提示的翻译性能有竞争力。

Oct, 2023

基于源感知训练的语言模型启用知识归属

大型语言模型通过源引用学习具有丰富知识，研究基于内在源引用的问题能够增强模型的透明度、可解释性和可验证性，作者通过源感知训练实现了这一目标，实验证明该方法可以保持模型质量，同时强调数据增强在实现源引用方面的重要性。

Apr, 2024

对话场景外提示提升大型语言模型预测的公平性和鲁棒性

通过利用因果关系作为一种工具来提高大型语言模型的可信度，我们提出了一种测试时解决方案 —— 利用开放背景提示来鼓励公平性和稳健性，以使模型在不同基准数据集上提供更可靠的预测。

Jun, 2024

大型语言模型作为忠实的解释器

介绍了一种提高大型语言模型的自然语言解释质量的生成解释框架 xLLM，该框架通过评估器和迭代优化过程来最大化生成解释的忠实度分数，实验证明 xLLM 可以显著提高生成解释的忠实度。

Feb, 2024

从文本到来源：大型语言模型生成内容的检测结果

通过探索跨模型检测、模型归因以及分类器的效果与模型规模之间的关系，该研究在大型语言模型的使用中提供了宝贵的见解。

Sep, 2023

统计机器翻译中基于目标端上下文的判别式模型

通过使用源上下文信息优化的翻译模型以提高机器翻译性能，我们提出了一种使用目标上下文信息的新颖扩展，令人惊讶的是，我们证明可以将该模型直接高效地集成在解码过程中，我们的方法可以应用于大规模训练数据，对四种语言对的语言翻译质量有一致提高，我们提供了分析，比较基线基于源上下文模型的优势，以及我们扩展的源上下文和目标上下文模型，结果显示，我们的扩展可以更好地捕捉形态学一致性。

Jul, 2016