针对任务导向对话的简单语言模型
SimpleMTOD 提出了一个简单的语言模型,将多模态任务导向对话的几个子任务转换为序列预测任务,在大规模的基于 transformer 的自回归体系结构上构建,引入了局部和去局部化令牌来捕获视觉场景的语义,并在不依赖于分类头等任务特定体系结构的情况下,在 SIMMC 2.0 测试数据集 Response Generation 子任务中实现了最先进的 BLEU 分数(0.327)。
Jul, 2023
该研究提出了通过 PPTOD 模型和新的对话多任务预训练策略来解决任务导向对话系统中存在的级联生成问题,取得了针对几个基准 TOD 任务的最新成果。
Sep, 2021
我们提出了 AnyTOD,这是一种端到端的,零 - shot 的任务导向对话系统,能够处理未见过的任务,而不需要特定的培训。我们采用了一种神经符号方法,其中神经语言模型跟踪对话中发生的事件,并执行符号程序以推荐应该采取的下一个操作,从而显著降低了数据注释和模型训练的要求,并展示了在任务和领域上的强大的零 - shot 迁移能力。
Dec, 2022
该研究提出了一种基于 Task-Optimized Adapters 和强化学习的 End-to-end TOD 系统,能够独立学习每个任务,并在 MultiWOZ 基准测试上表现出优越的性能,特别是在 2.2 数据集上的 DST 任务达到了最先进的水平。
May, 2023
本文提出了一种新的任务定向对话数据增强方法 TOD-DA,它包括对话丰富和口语会话模拟器,可以增加大规模高质量带注释口语会话,以提高口语任务定向对话建模的鲁棒性。在 DSTC10 Track2 的两项任务中,我们的方法均排名第一,证明了 TOD-DA 的优越性和有效性。
Dec, 2021
本文通过整合多个人机对话数据集,结合用户和系统记号改良预训练模型,提出了对话任务 BERT(TOD-BERT)模型,并通过四个对话应用领域的实验验证,表明 TOD-BERT 在意图识别、对话状态跟踪、对话行为预测、响应选择等方面超过了强对话模型 BERT,并且具有更强的少量数据学习能力。
Apr, 2020
本文介绍了一种基于自然语言描述的任务导向对话系统,并提出了一种简单而有效的基于描述的对话状态跟踪模型(D3ST),证明其在多个基准测试中具有更高的性能和数据效率。
Jan, 2022
该论文讨论了针对任务的对话系统,提出了基于填槽的 TOD 系统(SF-TOD)框架的局限性,探讨了可扩展的 WebTOD 框架,后者是在 Web / 移动界面上构建对话系统的替代方向,由大规模语言模型驱动对网页 / 移动界面的理解。
Dec, 2022
本文提出了一种称为 DivTOD 的新型对话预训练模型,它与 LLMs 合作,学习多样的任务导向对话表示,并在各种下游对话任务上优于强基线模型,同时学习任务导向对话的内在多样性。
Mar, 2024
ProToD 是一种预测未来对话动作并结合目标导向奖励信号来增强对话系统的方法,通过基于目标导向的对话模拟评估方法,可以在仅使用 10% 的数据的情况下实现比以前的全监督模型更好的性能,同时提高用户满意度和效率。
Sep, 2023