ICCVNov, 2023
基于熟悉度的对抗攻击下的开放集识别
Familiarity-Based Open-Set Recognition Under Adversarial Attacks
Philip Enevoldsen, Christian Gundersen, Nico Lang, Serge Belongie, Christian Igel
TL;DR打开集识别是将分类模型应用于现实世界应用中时的一个关键组成部分,最近的研究表明,基于熟悉度的评分规则(如最大软最大概率和最大逻辑分数)在封闭集准确度较高时是强大的基准。然而,基于熟悉度的开放集识别存在对抗攻击的潜在弱点。本文介绍了基于梯度的对抗攻击方法对熟悉度评分进行攻击,分别针对虚假熟悉性和虚假新颖性攻击,并在 TinyImageNet 上评估了它们在知情和不知情环境中的有效性。