BriefGPT.xyz
大模型
Ask
alpha
关键词
input space perturbation
搜索结果 - 1
对抗性训练对语言模型的稳健性和泛化能力的影响
本文比较了几种对抗训练语言模型的不同方法,包括预训练数据增强,输入空间扰动和嵌入空间扰动,发现输入空间扰动或预训练数据增强可以提高鲁棒性,而使用嵌入空间扰动可以显著提高泛化性。通过神经元的语言相关性分析表明,泛化性的提高是由于 “更加专业化
→
PDF
2 years ago
Prev
Next