研究使用机器学习技术的安全关键系统需要可靠的不确定性评估。本研究发现，深度神经网络在处理分布外数据时可能会产生过度自信的预测。本研究提出了一种具有保护分布外数据和高准确度的分类器，并提供所有实验代码。

Jun, 2021

本文通过实验研究证实，基于随机平滑的认证方法对于最新的认证稳健模型在处理低频 OOD 数据（如天气相关干扰）时具有未知的脆弱性，提出了一种新的数据扩充方案 —— FourierMix，通过改善训练数据的光谱覆盖范围来消除认证稳健模型的光谱偏差，并建立了一个全面的基准测试套件，证明 FourierMix 训练的模型在整个频谱范围内优于流行的扩增方法。

Dec, 2021

通过评估 39 种数据增强类型对广泛使用的 OOD 数据集的影响，证明了每种数据增强对模型对 OOD 数据的鲁棒性的影响，并进一步证明了所述假设不成立；形状偏差的增加不一定导致更高的 OOD 鲁棒性。通过分析结果，还发现 ImageNet-1K 数据集中的一些偏差可以通过适当的数据增强来减小。我们的评估结果进一步表明，域内准确性和 OOD 鲁棒性之间不一定存在权衡，选择适当的增强方法可以同时提高域内准确性和 OOD 鲁棒性。

Jun, 2024

研究机器学习中如何确定训练分布和 ODD（Out-Of-Distribution）样本的检测机制，提出了一种基于 l2 范数的无需特定组件或训练的 ODD 鲁棒性证明的新方法以及改进了检测 ODD 攻击技巧的现有技术，在 CIFAR10 / 100 平均 OOD 检测度量方面相对于之前的方法有约 13％/ 5％的提高，并在分布内样本上提供高水平的认证和敌对鲁棒性。

Mar, 2023

本文提出了一种名为 AugMix 的数据处理技术，该技术对图像分类器的鲁棒性和不确定性估计有显著的提高，这有助于模型抵御在部署过程中遇到的意外破坏。

Dec, 2019

通过应用基于最可能的类条件高斯分布的 Mahalanobis 距离作为 OOD 分数来评估拒绝语义分割 DNN 的输出，该研究发现即使在未知数据集上应用，也可以显著降低分类风险，但会以像素覆盖率为代价。这些发现的适用性将有助于合法化安全措施并推动其在汽车感知中的安全使用的论证。

Jan, 2024

通过 meta-analysis，我们发现具有良好 OOD 鲁棒性的最佳表现的模型都具有四个共同点，即视觉 - 语言预训练具有巨大的潜力。

Jun, 2022

本文提出了一种新的 fine-tuning 方法，使用掩码图像作为反事实样本来帮助提高 fine-tuning 模型的鲁棒性，该方法通过分类激活图掩盖语义相关或语义不相关的图像补丁，然后用其他图像中的补丁填充掩盖的补丁，取得了在鲁棒性方面更好的平衡。

Mar, 2023

使用辅助离群数据集来规范机器学习模型为数据分布外（OOD）检测和安全预测提供了有希望的结果。本文提出了一个名为 DREAM-OOD 的新框架，能够通过扩散模型在像素空间中仅使用分布内（ID）数据和类别想象出逼真的异常值。与先前的工作不同，DREAM-OOD 能够在像素空间中直接可视化和理解想象的异常值，并展示通过 DREAM-OOD 生成的样本训练可以提高 OOD 检测性能。

Sep, 2023

该论文介绍了一种名为 PAIR 的多目标优化方案来改善针对 Out-of-Distribution 数据的机器学习模型的鲁棒性。该方案通过优化其他 OOD 目标来改进 OOD 目标的鲁棒性，并通过达到 Pareto 最优解来平衡 ERM 和 OOD 目标的权衡关系。在挑战性的基准测试 WILDS 上进行的广泛实验表明，PAIR 缓解了折衷并产生了最佳的 OOD 性能。

Jun, 2022