Jan, 2023

交互链提示：交互实现跨语言条件生成的歧义消解

PDF
TL;DR提出了一种交互式链式提示方法，通过一系列问题、回答和生成步骤来解决跨语言条件生成中的翻译歧义问题，并通过制作数据集来评估其解决模糊性的能力和评估翻译质量。
crosslingual conditional generationtranslationinteractive-chain promptinglinguistic phenomenaambiguity resolution
发现论文，激发创造
  • 通过迭代提示回答模棱两可的问题

    AmbigPrompt 是一种在回答模糊问题时处理现有方法缺陷的模型，通过将回答模型与提示模型迭代地整合，自适应地追踪阅读过程，逐步触发回答模型来构成不同且相关的答案。此外，作者还开发了一种特定任务的预训练方法，极大提高了该框架的性能，同时比竞争方法使用更少的内存并具有较低的推理延迟。

    Jul, 2023

  • 链式词典提示诱发大型语言模型翻译

    本篇论文提出一种新方法名为 CoD，通过使用多语言词典来引出 LLMs 的翻译能力，从而提高大规模语言模型在多语言神经机器翻译中的表现，实验表明，CoD 可使得 ChatGPT 在 FLORES-200 全 devtest 集上英塞语察里洛文翻译的 ChrF++ 分数由 3.08 提高至 42.63，优于为低资源语言提供少量演示的方法。

    May, 2023

  • 迭代式提示预训练语言模型进行思维链构建

    本研究探索了一个迭代提示框架，用于让预训练语言模型具有多步推理能力，我们提出了一种基于上下文的迭代提示器，可以动态地合成提示，以捕捉不同推理步骤之间的变化。实验证明，该方法在多步推理方面具有很好的效果。

    Mar, 2022

  • 必要时澄清：通过与语言模型的交互解决多义性

    我们提出了一个任务无关的框架来通过询问用户澄清问题来解决模型中的歧义，我们的方法在确定何时需要澄清、确定要问的澄清问题以及通过澄清获得的新信息方面都取得了显著成果，并对模型的不确定性进行了估计，我们的方法在准确识别需要澄清的预测方面始终优于现有的不确定性估计方法，使系统能够在仅允许在 10％的示例上进行澄清时将性能提升两倍。

    Nov, 2023

  • 长篇法律文件分类的大型语言模型提示链

    本研究采用逐次引导策略，以解决复杂的法律文件分类问题，通过创建原始文档的简洁摘要，语义搜索相关示例文本和标注，利用上下文学习进行标签提示，证明逐次引导不仅可以提升零样本性能，还可以超越更大模型（如 ChatGPT 零样本）的微平均 F1 得分，使用更小的模型。

    Aug, 2023

  • 通过提示工程优化机器翻译：ChatGPT 可定制性的研究探讨

    这篇论文探讨了将翻译目的和目标受众整合到 ChatGPT 的提示中对所生成翻译质量的影响。研究强调了翻译过程中的前期准备阶段的重要性，通过借鉴以往的翻译研究、行业实践和 ISO 标准进行分析。研究发现，在像 ChatGPT 这样的大规模语言模型中加入适当的提示可以产生灵活的翻译，而传统的机器翻译尚未实现这一目标。通过使用 OpenAI 的词嵌入 API 进行余弦相似度计算，评估从从实际翻译员的视角主观和定性地进行，结果表明将翻译目的和目标受众整合到提示中确实可以修改所生成的翻译，从而在行业标准上普遍提高翻译质量。该研究还展示了 “良好的翻译” 概念的实际应用，特别是在营销文件和文化习语的背景下。

    Aug, 2023

  • 利用自然语言提示进行机器翻译

    本文旨在探讨自然语言提示在控制机器翻译模型输出方面的应用，并证明其能够影响输出的正式程度和具体方言等属性。研究还表明，使用语言名称控制多语言翻译模型的输出语言能够使得未见过的语言对之间产生积极的迁移效果，从而能够利用英文名翻译成未经微调的语言。同时，研究了规模、预训练步数、微调语言数量和语言相似度等因素对该现象的影响。

    Feb, 2022

  • PromptChainer：通过可视化编程连接大型语言模型提示

    探索了基于 LLMs 的多次运行串联（即 chaining）的可视化编程过程，引入一个交互式界面 PromptChainer 来支持用户构建各种机器学习应用的原型。

    Mar, 2022

  • 误差分析提示使得大型语言模型的翻译评估类似于人类：以 ChatGPT 为例的案例研究

    本文介绍了新的提示方法（Error Analysis Prompting）, 结合 Chain-of-Thoughts 和 Error Analysis, 用于提高 ChatGPT 在机器翻译质量评估方面的性能，并发现了一些其作为 MT 评估器的局限性，结果表明，使用 Error Analysis Prompting，ChatGPT 可以在系统和段落级别上生成类似人类的 MT 评估。

    Mar, 2023

  • 大语言模型的机器翻译：波斯语，英语和俄语方向的提示工程

    通过研究生成式大型语言模型在机器翻译中的性能，我们发现多语言模型（如 PaLM）在人工翻译输出方面表现出类似人类的水平，能够根据样式指南和语言要求优化所需的翻译细微差别，并在处理和应用提示上表现出色。我们还针对流行的语言模型作为机器翻译工具的错误和限制进行了分类和提出了设计提示进行上下文学习的方法。通过改进评估指标的准确性和可靠性，我们的研究旨在促进生成式大型语言模型在机器翻译中的进步。

    Jan, 2024