Aug, 2019

无标注数据下的少样本对话生成：一种迁移学习方法

PDF
TL;DR本文介绍了一种基于 MetaLWOz 数据集的知识迁移技术，实现在少量样本下训练对话系统的方法，并在多个领域的人机对话中达到了最先进的结果，同时也不需要任何标注数据。
dialogue systemsfew-shot learningmetalwoz datasetstanford multi-domain dialogue datasetdata-efficient
发现论文，激发创造
  • 对话知识转移网络实现数据高效目标导向聊天

    该研究提出了一种基于少量无需标注对话实现目标导向对话生成的系统，实现了对话表示的自主学习，涉及到文本知识来源的多重训练，结果显示在使用了比原模型仅百分之十的数据时显著提高了实体识别和 BLEU 得分。

    Oct, 2019

  • 使用合成数据进行零样本迁移学习的多领域对话状态跟踪

    本文提出了一种采用零样本迁移学习的技术，通过从域本体和抽象对话模型中合成所有域内训练数据，对多域对话状态跟踪进行了改进，表明对话状态跟踪中的数据增强可以提高 TRADE 模型和基于 BERT 的 SUMBT 模型在 MultiWOZ2.1 数据集上零样本学习的准确性，并表明只用合成的域内数据对 SUMBT 模型进行训练，可以达到全局数据集训练的 2/3 的准确度，文章的方法还提高了领域之间的平均零样本学习水平达到 21%

    May, 2020

  • 通过提示进行弱监督的对话理解数据增强

    本论文探讨了在缺少数据资源的情况下，利用预先训练好的语言模型进行对话理解中的数据增强的问题，并提出了一种利用弱监督滤波器迭代增强质量的新方法。实验结果表明，在 DailyDialog 和 Facebook 多语言任务导向对话的情感、行为和意图分类任务上使用少量数据作为辅助训练集，可以达到或超过现有的最佳性能。

    Oct, 2022

  • Few-Shot Bot: 基于提示的对话系统学习

    本文探讨了通过基于提示的少样本学习在对话任务中的应用，通过对多种大小的语言模型进行测试，提出一种新的无需微调的提示分类器，并结合技能选择器创建了一种称为 Few-Shot Bot 的端到端聊天机器人，只需使用少量对话示例便可以完成知识检索并生成人类般自然的响应。

    Oct, 2021

  • 针对任务导向对话的少样本自然语言生成

    该论文提出 FewShotWoz 模型作为 Natural Language Generation 模块，使用 SC-GPT 模型进行预训练来实现带有有限数量 labeled data 的多领域适配，通过实验证明其效果显著优于已有方法。

    Feb, 2020

  • 对话语言理解的零射击自适应转移

    本研究提出一种基于 Zero-Shot Adaptive Transfer 方法的领域自适应对话代理模型，通过利用槽位描述信息实现可重用概念在领域之间的迁移，并避免了显式概念对齐的训练复杂度，实验结果表明此模型在多达 10 个领域的数据集上性能显著优于之前的最优系统，特别在低数据情况下表现更出色。

    Aug, 2018

  • 元学习在有效的少样本命名实体链接中的应用

    本研究提出了一种基于元学习、弱监督和合成数据的方法，以解决自然语言处理领域中少样本实体链接任务。在实验中证明，该方法在少量标注数据情况下可以获得较好的效果，并具有良好的可迁移性。

    Jul, 2022

  • 使用蒸馏表示进行零和少量训练的任务导向对话代理定位

    本文提出了一种利用源语言 ToD 训练数据构建另一种目标语言下的高质量对话代理的方法，从而实现零样本和小样本学习，它通过提高对话数据表示的质量、改进基于实体的机器翻译和自动过滤干扰性翻译来实现这一目标，通过在中英对话数据集 BiToD 上的实验证明了该方法的高效性。

    Feb, 2023

  • 预训练语言模型用于简短文本自然语言生成

    该文提出了少样本自然语言生成（Few-shot natural language generation）任务，设计了基于内容选择和语言建模的模型架构，表现良好。

    Apr, 2019

  • 对话领域适应的混合生成 - 检索 Transformer

    本文提出了基于 GPT-2 微调多领域 MetaLWOz 数据集的混合生成 - 检索模型，具有稳健、多样的响应生成能力，在领域自适应任务中取得了最优结果，并在适应未见过的 MultiWOZ 数据集时表现出竞争力的泛化性能。

    Mar, 2020