深度神经网络的选择性分类

May, 2017

Selective Classification for Deep Neural Networks

Yonatan Geifman, Ran El-Yaniv

TL;DR本文提出了一种构造选择分类器的方法，可在风险可控的情况下使用深度神经网络进行分类，解决了在深度神经网络中使用拒绝选项技术的问题，有效提高了分类器性能，成功实现了在 ImageNet 上顶部 5 项分类的 2% 错误率，并且测试覆盖率达到近 60%，为深度神经网络在关键应用中的应用提供了可能性。

Abstract

selective classification techniques (also known as reject option) have not yet been considered in the context of deep neural networks (DNNs). These techniques can potentially significantly improve DNNs prediction

deep neural networks selective classification risk level mission-critical applications imagenet

发现论文，激发创造

SelectiveNet：具有集成拒绝选项的深度神经网络

本论文介绍了 SelectiveNet，这是一种有集成拒绝选项的深度神经架构，通过同时优化分类（或回归）和拒绝，得到了一个在覆盖域上优化的深度神经网络，实验表明，SelectiveNet 在多个分类和回归数据集上均获得了改进的风险覆盖权衡效果，从而达到了深度选择分类的新的最佳结果。

Jan, 2019

深度神经网络选择性分类基准测试

通过对包含图像和表格数据的多样化数据集进行实证评估，该研究对 18 种基线模型进行基准测试，比较了它们在选择错误率、实证覆盖率、被拒绝实例类别分布以及在分布外实例上的性能等多个方面的表现，结果显示没有一个明确的最佳方法，最好的方法取决于用户的目标。

Jan, 2024

层次化的选择性分类

部署深度神经网络用于风险敏感任务需要一个不确定性估计机制。本文介绍了分层选择分类，将选择分类扩展到分层环境中。我们的方法利用类别关系的固有结构，使模型在面临不确定性时减少其预测的特异性。本文首先形式化了分层风险和覆盖，并介绍了分层风险覆盖曲线。接下来，我们开发了针对分层选择分类的算法（也称为 “推理规则”），并提出了一种能够以高概率保证目标准确性约束的高效算法。最后，我们对一千多个 ImageNet 分类器进行了大量的实证研究，揭示了诸如 CLIP、ImageNet21k 预训练和知识蒸馏等训练制度提升了分层选择性能。

May, 2024

自信感感知的对比学习用于选择性分类

选择性分类是在高风险场景中提高安全性和可靠性的一种方法，本研究提出了一种基于置信度感知对比学习的新型选择性分类模型，该模型通过改进特征层次来提高选择性分类的性能，实验证明它明显降低了选择性风险。

Jun, 2024

基于不确定性估计提高可信赖深度神经网络的调研：以拒绝选项和训练后处理为例

本文系统评估了神经网络中预测拒绝选项的上下文中的各种方法，包括拒绝选项相关的不同新型损失函数和后训练处理，以生成适当的模型知识感知度度量，并介绍了拒绝选项在减少实时问题预测时间方面的应用。

Apr, 2023

朝着更好的选择性分类

本文提出了一种在分类器内部实现选择机制的方法与一种基于熵的正则化器，并取得了新的最高水平表现。

Jun, 2022

考虑选择性有害：评估深度神经网络中类别选择性的因果影响

通过直接对类别选择性进行正则化或反对类别选择性，可以提高卷积神经网络的测试准确率，表明个体神经元的类别选择性既不充分也不必要，并且可能会损害深度神经网络的性能。此外，结果还表明，我们需要谨慎地关注单个神经元的属性，以代表深度神经网络的功能机制。

Mar, 2020

评估用于深度神经网络的测试选择方法的稳健性

通过探索测试选择方法的失败情况和弊端，本文证实了这些方法在故障检测和性能估计方面存在可靠性问题，并提出了相应的解决方案。

Jul, 2023

训练知道自己不知道什么的私有模型

通过研究选择性分类器在差分隐私约束下的效果，探讨深度学习模型的可靠性及隐私泄漏问题，发现最近的一种基于现成的深度学习模型生成检查点的方法在差分隐私下更为合适，使用差分隐私不仅会降低模型的效能，而且在隐私预算降低时需要付出相当大的覆盖成本。

May, 2023

深度网络比样本更细粒度的选择性遗忘

本文针对深度神经网络中可能被攻击者篡改、包含敏感信息的数据进行了选择性遗忘的研究，提出了一种基于优化方法对遗忘过程进行控制的方法，并通过实验结果验证了其有效性。

Dec, 2020