IJCAIMay, 2022
基于扰动和内部样本插值的鲁棒微调
Robust Fine-tuning via Perturbation and Interpolation from In-batch Instances
Shoujie Tong, Qingxiu Dong, Damai Dai, Yifan song, Tianyu Liu...
TL;DR本文提出了一种称为 Match-Tuning 的简单且有效的微调方法,通过匹配不同批次中的实例的其他实例来增强预训练语言模型的鲁棒性,实验证明这种方法在各种任务中均优于传统的微调方法,并且对抗攻击和数据不平衡具有显著的鲁棒性。