ACLJan, 2023

任务型对话系统中的上下文动态提示响应生成

PDF
TL;DR本文通过使用 context 动态提示的方法，改善了在多轮任务指向对话系统中的通用响应生成。在 MultiWOZ 2.2 数据集上验证后，相较于仅进行的前缀手段，综合值得分提高了 3 个绝对点，同时还将状态对话的提升幅度加大了 20 个绝对点。
response generationtask-oriented dialog systemspromptingcontextual dynamic promptingmultiwoz
发现论文，激发创造
  • 属性控制的对话提示

    该论文介绍了一种新颖的基于实例控制代码的提示调整算法来探索其对于对话生成的影响，该算法不同于传统的离散提示和连续提示，可以适应输入变化较大的任务，如开放领域对话生成，并在经典数据集上实验证明其比提示基线更好，而参数却只需用到总计量的 5-6%。

    Jul, 2023

  • 面向任务导向对话系统的语境数据增强

    我们开发了一种新型的对话扩充模型，通过完整的对话上下文生成用户的回合，并通过语言模型的新提示设计和输出重新排序，所生成对话可直接用于训练下游对话系统，在常见的基准数据集 MultiWoZ 和 SGD 上，展示了我们的对话扩充模型生成高质量对话并使对话成功率较基准线提高多达 8%。

    Oct, 2023

  • 上下文调整：为自然语言生成学习上下文化提示语

    本文提出了一种新的连续提示方法，称为上下文调整，用于对预训练语言模型进行微调以进行自然语言生成，可以根据输入文本生成上下文化的提示，然后使用连续的反向提示来改进过程自然语言生成的过程。

    Jan, 2022

  • 通过提示实现可控的混合主动对话生成

    研究采用大型语言模型替代 fine-tuning 来实现可控制的混合对话，并在 PersuasionForGood 和 Emotional Support Conversations 两个任务中通过人类评估和自动度量标准显示了改进。

    May, 2023

  • 动态提示：一种用于提示调整的统一框架

    本文提出了一种动态提示策略 (DP) 来优化 LMs 的 prompt tuning，通过任务优化、位置、长度和提示表示的动态优化，实验证明 DP 能提高分类准确度，并证明其在全数据、少样本和多任务情况下都是有用的。

    Mar, 2023

  • 使用 Prompt-Tuning 构建个性化对话系统

    本研究通过使用 persona 来建立具有一致性反应的对话系统，提出了一种基于预训练的大型语言模型的 prompt 调节方法，在英语和日语方面的自动和手动评估结果表明，这种方法可以建立具有更自然和个性化反应的对话系统，而且计算资源较少。

    Jun, 2022

  • 基于大型语言模型的交互式和可视化提示工程，用于即席任务适应

    本文介绍了一种使用神经语言模型的 zero-shot prompting 方法，在不需要监督训练的情况下解决 ad-hoc 语言任务。我们提出了 PromptIDE 工具，该工具可以帮助用户实验不同的提示词选择，以达到任务指标的优化和数据量的扩展。该工具已在多个现实世界的案例中得到了应用。

    Aug, 2022

  • 如何控制对话模型：提升对话质量的方法

    本文探讨了如何在对话模型中平衡训练文本的多样性和生成对话样式的限制，研究表明，通过将提示信息与查询进行绑定，可以实现更高质量的多样化回复。

    Sep, 2022

  • 使用基于架构的提示的语言模型实现对话状态跟踪

    提出了一种新颖的基于预训练语言模型的任务驱动对话状态追踪方法，利用基于模式的提示和模式描述提高了性能，适用于多个基准测试（MultiWOZ 2.2、MultiWOZ 2.1 和 M2M），实现了最先进的性能。

    Sep, 2021

  • 关于元提示

    使用类别论的理论框架来描述和推广统计模型中的元提示方法，研究发现元提示方法在创意和构思领域的应用比基本提示方法更有效。

    Dec, 2023