ICMLJul, 2020

开放世界机器学习的关键评估

TL;DR本文针对开放世界机器学习系统,测试其在各种条件下的可靠性,并发现在组件的选择方面,包括原始数据、模型体系结构和 OOD 数据等选择均严重影响 OOD 检测的性能,可能引起超过 70%的误检率,而对于包含 22 种非故意损坏或对抗性扰动的 OOD 输入,误报率可以达到 100%,并提出了结合鲁棒分类器和 OOD 检测技术来解决 OOD 检测和适应性之间的新的权衡。