Feb, 2024

重新思考人类化翻译策略：将漂移扩散模型与大型语言模型整合用于机器翻译

PDF
TL;DR利用 Thinker 和 Drift-Diffusion 模型重新定义漂移扩散过程来模拟人类翻译者在受限资源下的动态决策制定，通过对 WMT22 和 CommonMT 数据集进行广泛实验，发现 Thinker-DDM 在高资源和低资源翻译设置中表现优于基线模型，并对常识翻译进行额外分析和评估，证明了所提出方法的高效性和有效性。
发现论文，激发创造
  • 探索使用大型语言模型进行人类化翻译策略

    本文提出了一个名为 MAPS 框架，通过多方面提示和选择的方式，使用大型语言模型分析源文本获取三个与翻译相关的知识方面：关键词、主题和相关演示，并通过质量估计的机制过滤噪音和无用的知识来指导翻译过程，实验证明 MAPS 在最新的 WMT22 测试集上对八个翻译方向都有显著和一致的改进，为解决翻译中的幻觉错误提供了关键的知识。

    May, 2023

  • XDLM：跨语言扩散语言模型用于机器翻译

    提出了 XDLM，一种新颖的用于机器翻译的跨语言扩散模型，包括预训练和微调阶段。在预训练阶段，提出了 TLDM，用于掌握不同语言之间的映射关系；在微调阶段，基于预训练模型构建了翻译系统，并在多个机器翻译基准测试中优于扩散模型和 Transformer 基线。

    Jul, 2023

  • 使用大型语言模型的自适应机器翻译

    本文旨在探究如何利用上下文学习的方法来提高实时自适应机器翻译的质量，并研究将强编码器 - 解码器模型和模糊匹配相结合以进一步提高翻译质量的方法。已在五个大不同的语言对上展开了实验。

    Jan, 2023

  • 适应大型语言模型的文档级机器翻译

    探索大型语言模型在文档级机器翻译中的适应过程及性能，研究了提示策略及精细调优方法对翻译结果的影响，发现部分专用模型的翻译性能甚至超过 GPT-4，但仍面临着偏离翻译问题的挑战，同时进行了深入分析，包括翻译错误、平行文件的规模关系、领域外泛化和零翻译跨语言转移等，为未来文档级机器翻译方面的研究提供了基础。

    Jan, 2024

  • 人机协作的大型语言模型机器翻译

    借鉴人机交互和上下文学习的特点，提出了一种人机协作的流程，通过指导大型语言模型生成自定义输出，以改善翻译性能，并进行了多个角度的评估和分析。

    Oct, 2023

  • 民主化扩散语言模型

    本文旨在提出一种去中心化的扩散语言模型（DDLM），该模型基于连续性扩散的范畴数据（CDCD）框架，使用 C4 数据集进行简化的培训过程，并提出一种新颖的早期退出策略，通过 GLUE 基准研究 DDLM 的知识转移能力。

    May, 2023

  • LLM-grounded Diffusion: 借助大型语言模型增强文本到图像扩散模型中的提示理解

    该论文介绍了一种使用预训练大型语言模型对扩散模型进行增强推理能力的方法，包括两个阶段：第一阶段使用大型语言模型生成场景布局；第二阶段使用一个新的控制器，来生成与布局条件相符的图像。实验结果表明，该方法能更准确地生成需要语言和空间推理的图像。

    May, 2023

  • MT-PATCHER：面向机器翻译的大型语言模型的选择性和可扩展知识蒸馏

    通过提出 MT-Patcher 框架，将知识从大型语言模型传输到中型机器翻译模型，仅识别和纠正学生翻译模型的翻译错误，而不是将整个翻译知识从教师模型中提取，通过利用大型语言模型的语言能力，预测学生的潜在错误和多样化的语境提高翻译性能。

    Mar, 2024

  • 使用大语言模型引导多语言语义分析器

    使用大型语言模型通过少量提示将英文数据集转化为多种语言，以实现多语言语义解析，并在两个公共数据集上与传统的翻译 - 训练方法进行比较，表明使用 LLM 更有效。

    Oct, 2022

  • DiffusionGPT: 基于 LLM 的文本到图像生成系统

    DiffusionGPT 结合了扩散模型、文本到图像系统和领域特定树，提供了一个统一的生成系统，能够适应各种类型的提示并集成领域专家模型，推动了多领域图像合成的边界。

    Jan, 2024