ICMLJul, 2020

深度神经网络的软标记影响其对越界检测的能力

PDF
TL;DR本研究探讨基于软标签的输出规范化对于深度神经网络的泛化和模型压缩等方面的影响，特别是在机器学习安全中重要的 OOD 检测方面的影响，我们发现正确类别的软标签输出规范化对 OOD 检测的改善具有关键作用，并提出了一种合适的输出规范化方法，以构建 OOD-robust 深度神经网络，在不增加 OOD 样本训练或修改模型的情况下提高分类准确性。
发现论文，激发创造
  • 使用早期层输出在深度神经网络中检测超范围输入

    本研究提出了一种新的的基于输出层的单类分类器方法用于检测深层分类器中的异常值输入，该方法无需访问 OOD 样本且在低维和高维数据集上表现出优异的性能指标。

    Oct, 2019

  • 可证明鲁棒性的无需付出昂贵代价的异常检测

    研究使用机器学习技术的安全关键系统需要可靠的不确定性评估。本研究发现，深度神经网络在处理分布外数据时可能会产生过度自信的预测。本研究提出了一种具有保护分布外数据和高准确度的分类器，并提供所有实验代码。

    Jun, 2021

  • 梯度正则化的离群样本检测

    利用损失函数的梯度信息进行训练，实现神经网络在离分布数据上的检测，并通过能量采样方法提高模型性能。

    Apr, 2024

  • 适应层深度神经网络用于区分分布外数据

    本文提出了一种新的适用于深度神经网络（DNNs）的层自适应 OOD 检测框架（LA-OOD），该框架能够充分利用中间层的输出，通过在中间层同时训练多个 One-Class SVM OOD 探测器，以利用在 DNNs 不同深度上编码的完整光谱特征，而非仅集中于末端层特征，我们开发了一个简单而有效的层自适应策略来识别最佳层以便检测每个潜在的 OOD 样例。

    Mar, 2022

  • 房间里的喧嚣大象：你的离群检测器对标签噪声是否鲁棒？

    通过对 20 种最先进的 OOD 检测方法进行大量实验，我们发现类标签噪声对 OOD 检测有重要影响，现有方法中错误分类的 ID 样本与 OOD 样本之间的差异较小是一个被忽视的限制。

    Apr, 2024

  • 自然语言处理中的超领域检测综述

    本文回顾了最近关于 out-of-distribution 检测的进展，重点关注了自然语言处理方面的方法。通过分类和介绍数据集、应用和评估指标，总结了现有的研究，同时提出了未来的研究方向。

    May, 2023

  • 深入研究标签平滑

    本文研究了如何生成更可靠的软标签，提出了一种基于 Online Label Smoothing (OLS) 策略的方法，通过构建更合理的概率分布来监督深度神经网络；实验证明，该方法可以有效地提高 CIFAR-100，ImageNet 和细粒度数据集的分类性能，并显著提高 DNN 模型与嘈杂标签的鲁棒性。

    Nov, 2020

  • 鲁棒语言模型的伪 OOD 训练

    本文提出 POORE - POsthoc pseudo-Ood REgularization 框架，通过在内部数据中生成伪 OOD 数据进行 fine-tune，通过引入新的正则化损失来分离 IND 和 OOD 数据的嵌入，提高了 OOD 预测任务的准确度，相较现有方法在三个实际对话系统上获得了最新的技术进展。

    Oct, 2022

  • 扩散去噪平滑在认证和对抗鲁棒的 ODD 检测中的应用

    研究机器学习中如何确定训练分布和 ODD（Out-Of-Distribution）样本的检测机制，提出了一种基于 l2 范数的无需特定组件或训练的 ODD 鲁棒性证明的新方法以及改进了检测 ODD 攻击技巧的现有技术，在 CIFAR10 / 100 平均 OOD 检测度量方面相对于之前的方法有约 13％/ 5％的提高，并在分布内样本上提供高水平的认证和敌对鲁棒性。

    Mar, 2023

  • 无标签数据如何在区分分布之外的检测中发挥作用？

    使用无标签数据来规范机器学习模型已经显示出改善检测超出分布数据的安全性和可靠性的潜力。一个新的学习框架 SAL（分割与学习）通过从无标签数据中分离候选离群值然后使用这些候选离群值和标记的正态数据训练离群值分类器，理论上证明了 SAL 能以较小的错误率分离候选离群值，这为学习到的离群值分类器提供了泛化保证。实证结果表明 SAL 在常见基准测试上取得了最先进的性能。

    Feb, 2024