textual adversarial attacks | BriefGPT

关键词textual adversarial attacks

搜索结果 - 7

AAAIROIC-DM：通过扩散模型的稳健文本推理与分类
该论文介绍了一种基于扩散模型（ROIC-DM）构建的鲁棒文本推理和分类模型，通过利用去噪阶段的训练，ROIC-DM 相对于传统语言模型具有更好的鲁棒性，并且可以将它们作为顾问组件有效地融合，达到相当甚至更好的性能。
PDF6 months ago
鲁棒的少样本命名实体识别：边界判别和相关性净化
本研究探索和评估少样本命名实体识别模型在文本对抗攻击场景下的鲁棒性，并提出了一个由边界判别和关联净化组成的鲁棒两阶段少样本命名实体识别方法。该方法通过引入边界判别模块和净化关联模块，提高了命名实体边界检测和实体类型判别的鲁棒性，并在 Few
PDF7 months ago
EMNLP加强文本攻击检测器
该研究提出了两个重要贡献：引入了 LAROUSSE 框架来检测文本对抗攻击，引入了 STAKEOUT 基准评估框架，其中包含了九种常用攻击方法、三个数据集和两个预训练模型。通过广泛的数值实验，我们证明 LAROUSSE 优于先前的方法，并且
PDF8 months ago
ACLDSRM：通过分布飘移风险最小化提升文本对抗训练
介绍了一种新的经过有效处理的针对深度语言模型对抗训练的方法 —— 分布偏移风险最小化（DSRM），不需要对抗样本进行训练，可以比当前最佳对抗训练方法降低 70% 的时间消耗，并且显著提高 BERT 模型对文本对抗攻击的鲁棒性，实现了各种基准
PDFa year ago
ACL从对抗性武器竞赛到模型为中心的评估：推进自动化统一鲁棒性评估框架
本文提出了一种统一的自动鲁棒性评估框架 RobTest，通过针对模型能力建立鲁棒性评估维度、生成不同维度下的对抗样本，最终实现自动鲁棒性评估。实验结果表明，该框架能有效评估 RoBERTa 模型的鲁棒性。
PDFa year ago
一种基于概率差异引导的束搜索文本对抗攻击的上下文感知方法
提出了一种名为 PDBS 的新的上下文感知的文本对抗攻击模型，它使用概率差异对攻击路径进行选择，并使用波束搜索来寻找成功的攻击路径，实验证明 PDBS 在一系列评估指标上优于以前的最佳模型，特别是攻击成功率提高了 19.5%。
PDF2 years ago
ICLR文本分类的鲁棒前缀调优
提出一种保持 prefix-tuning 的有效性和模块化性的鲁棒性前缀调谐方法，通过正确分类的数据作为附加前缀调谐的标准，使用语言模型的层激活来增强鲁棒性，并通过针对每个批次的额外批量级前缀来提高鲁棒性。实验证明，该方法在多个基准测试中执
PDF2 years ago