ACLJun, 2023

PromptAttack:通过敌对提示探测对话状态追踪器

TL;DR为了构建更健壮可靠的对话系统,通过引入基于提示的学习方法,自动生成有效的对抗例子来探究对话状态跟踪器 (DST);实验表明该框架可在保持良好流畅度和低扰动比的情况下,对现有最先进的 DST 造成最大准确度降低和最好的攻击成功率。